OpenAI’nin önde gelen isimlerinden Jan Leike, yapay zekâ (YZ) araştırma dünyasındaki gelgitlere işaret eden önemli bir hamleyle, “güvenlik endişelerini” gerekçe göstererek kurumdan istifa ederek manşetlere çıktı. Leike’nin ‘Süper Uyumlaştırma’ ekibinin bir parçası olarak önemli bir rol oynadığı OpenAI’den ayrılması, kurum için önemli bir kayıp anlamına geliyor. Bununla birlikte, Leike’nin yeni bir yuva bulduğu rakip yapay zeka araştırma şirketi Anthropic için de önemli bir kazanca işaret ediyor.
Jan Leike’in Hamlesi, OpenAI Yapay Zeka Güvenlik Endişeleri Arasında Etik Odaklanmayı Vurgulamakta
Leike’nin Anthropic’e katılma kararı, şirketin YZ arenasında zorlu bir oyuncu olarak ivme kazandığı bir dönemde geldi. OpenAI’nin eski üyeleri tarafından kurulan Anthropic, kendisini etik yapay zeka gelişiminin sadık bir savunucusu olarak konumlandırıyor ve bazılarının OpenAI’nin özellikle Microsoft ile yaptığı kârlı anlaşmanın ardından ticari çıkarlarla artan uyumu olarak algıladıkları şeyin aksine duruyor.
Jan Leike’in Hamlesi, OpenAI Yapay Zeka Güvenlik Endişeleri Arasında Etik Odaklanmayı VurgulamaktaLeike, Anthropic’te ölçeklenebilir denetim, zayıftan güçlüye genelleme ve otomatik hizalama araştırması gibi kritik alanlardaki çabalara öncülük edecek. Leike’nin insani değerlerle uyumlu akıllı sistemler tasarlamaya odaklanması, “anayasal yapay zeka” olarak adlandırılan bir kavram olan etik ilkelerin yapay zeka modeli eğitimine entegrasyonuna öncelik veren Anthropic’in ethosuyla güçlü bir şekilde örtüşüyor. Anthropic, Birleşmiş Milletler İnsan Hakları Evrensel Beyannamesi gibi temel belgelerden ilham alarak ve kamuoyu ile etkileşim kurarak, YZ’nin insanlığın daha büyük iyiliğine hizmet etmesini sağlamayı amaçlamaktadır.
Leike’nin OpenAI’den ayrılması ve bir başka ağır top olan Ilya Sutskever’in gelecekteki potansiyel katılımı, YZ topluluğu içinde daha geniş bir eğilime işaret ediyor. YZ güvenliği ve etiği ile ilgili endişeler ön plana çıkmaya devam ettikçe, araştırmacılar giderek kendi değerlerini paylaşan ve YZ teknolojilerinin sorumlu bir şekilde geliştirilmesine öncelik veren kuruluşlara yöneliyor.
Yeteneklerin OpenAI’den Anthropic’e göçü, genel yapay zekanın (AGI) ortaya çıkardığı zorlukları ele almanın aciliyetinin altını çiziyor. Leike’nin, toplumu YZZ’ye mümkün olan en iyi şekilde hazırlanmaya öncelik vermeye çağıran eylem çağrısı, YZ gelişmelerinin toplumun geneli için taşıdığı derin etkileri hatırlatıyor.
Anthropic üst düzey yetenekleri kendine çekmeye ve etik YZ araştırmalarında lider konumunu sağlamlaştırmaya devam ederken, sahne YZ’nin geleceğinde kritik bir dönem için hazırlanıyor. Leike ve potansiyel olarak Sutskever’in katılımıyla Anthropic, güvenli ve insan merkezli YZ geliştirme misyonunu yenilenmiş bir güçle ilerletmeye ve önümüzdeki yıllarda YZ gelişiminin yörüngesini şekillendirmeye hazırlanıyor.
