Blockchain ve Web3 uygulamaları için bulut hizmeti veren Oasis Labs, en yeni gizlilik teknolojilerinden faydalanan yapay zeka modellerinde adalet kavramını değerlendirmek için Meta ile ortaklık kurdu.
Meta platformunun teknoloji ortağı olarak anılan Oasis Labs, Meta ve Instagram’daki kullanıcıların gönüllü olarak etnik kökenlerini belirtebilecekleri bir ankete katılmalarını istediğinde, bilgilerin korunması adına Güvenli Çok Partili Hesaplama (SMPC) kullanan bir platform oluşturdu. Söz konusu bu proje kapsamında, bireylerin yaşamları hakkında olumlu yönde etkileşim sağlanacak. Tamamıyla topluma yararı olacak olan Al modellerinde adalet ölçümü gerçekleştirilecek. Türünün ilk örneği olarak değerlendirilen bu platform, bir Al teknolojisinin adaletli olup olmadığını belirleme konusunda önemli bir girişim olarak değerlendiriliyor.
Al modelleri için adalet nasıl ölçülecek?
Meta’nın Sorumlu AI, Instagram Equity ve Civil Rights ekipleri, Instagram’da yer alan kişilerden platform dışı bir ankete katılması isteniyor. Kullanıcılar burada gönüllü bir şekilde ırklarını veya etnik kökenlerini paylaşacak. Üçüncü taraf anket sağlayıcısı tarafından toplanan bu veriler, herhangi bir üçüncü taraf ile paylaşılmayacak. Ölçüm işlemi ise daha sonra kolaylaştırıcılar ve Meta tarafından kriptografik olarak paylaşılan AI modellerinden şifreli tahmin verileri kullanarak hesaplanacak. Alınan her bir veri, toplu adalet ölçüm sonuçlarına çevrilecek. Platformun sahip olan kriptografik yöntemler, Meta’ nın adalet ölçümü yapmasını sağlarken, bireyler için de yüksek düzeyde gizlilik koruması sağlar.
Meta’da Sorumlu Yapay Zeka Direktörü Esteban Arcaute, “Meta’da yapay zekanın, çeşitli ekipler arasında hem dahili hem de harici olarak derin işbirliği gerektiren insanlara ve topluma fayda sağlamasını sağlamaya çalışıyoruz” dedi. “Güvenli Çok Taraflı Bilgi İşlem metodolojisi, Oasis Labs ile ortaklaşa geliştirilen, mahremiyet odaklı bir yaklaşımdır ve iyi kurulmuş mahremiyet koruma yöntemlerini uyarlayarak insanların mahremiyetini ön planda tutarken, adalet konusunda önemli ölçüm çalışmalarına olanak tanır.”
Oasis Labs’ın Kurucusu Profesör Dawn Song şunları söyledi: “En yeni şifreleme tekniklerini kullanarak kullanıcıların gizliliğini korurken, AI modellerinde adaleti değerlendirmek için bu çığır açan girişimde Meta ile teknoloji ortağı olmaktan heyecan duyuyoruz. Bu, gerçek dünyada AI modeli adaletinin büyük ölçekli ölçümü için bu tekniklerin benzeri görülmemiş bir kullanımıdır. Daha adil ve daha kapsayıcı bir toplum için sorumlu yapay zeka ve sorumlu veri kullanımına doğru ilerlemek için Meta ile birlikte çalışmayı dört gözle bekliyoruz.”
