Son günlerin en ilgi çekici olaylarından biri yapay zeka denince akla gelen isimlerden biri olan Sam Altman’ın ani bir şekilde OpenAI’den kovulması ve sonrasında yaşananlar oldu. Bu olayların perde arkasında neler yaşandı bilinmezken Reuters şok bir iddiayla olaylara bambaşka bir boyut kazandırdı.
Reuters’in paylaştığı bilgilere göre Sam Altman şirket CEO’luğundan kovulmadan önce birkaç araştırmacı yönetim kuruluna yapay zekanın insanlığı tehdit edebileceğini söylediği güçlü bir keşif yaptıklarına ilişki bir uyarı mektubu gönderdi. Olaylar ise bu mektubun ortaya çıkmasından sonra patlak verdi.
OpenAI, çalışanlarını uyarmış
OpenAI CEO’su Sam Altman‘ın dört günlük sürgünü öncesinde, bir grup araştırmacının yönetim kuruluna, insanlığı tehdit edebilecek güçlü bir yapay zeka keşfi konusunda uyarıda bulunduğu bir mektup yazdıkları ortaya çıktı. Reuters’e bilgi veren iki kaynak, bu mektubun ve yapay zeka algoritmasının, Altman’ın görevden alınmasına yol açan önemli gelişmelerden biri olduğunu belirtti.
Mektubun içeriğine dair detaylar bilinmese de kaynaklardan biri Reuters’e konuştu ve OpenAI’nin, Q* adlı bir projeyi ve olaylardan önce yönetim kuruluna gönderilen bu mektupla ilgili bir iç mesaj gönderdiğini söyledi. OpenAI sözcüsü, mesajın, şirketin çalışanlarını medyada ortaya çıkan haberler konusunda uyardığını belirtti.
Yapay zeka insanlığı tehdit mi ediyor?
Q*’un, yapay genel zeka (AGI) arayışında bir atılım olabileceğine inanan bazı OpenAI çalışanları olduğu belirtiliyor. Ayrıca AGI ise ekonomik açıdan en değerli görevlerde insanları geride bırakan otonom sistemler olarak tanımlanıyor.
Kaynaklar, mektupta belirtilen güvenlik endişelerini tam olarak belirtmeden, araştırmacıların kurula yazdıkları mektupta yeni teknolojinin becerisini ve potansiyel tehlikesini belirttiklerini söyledi. Bilgisayar bilimcileri arasında, son derece akıllı makinelerin oluşturduğu tehlike hakkında, örneğin insanlığın yok edilmesinin kendi çıkarlarına olduğuna karar verip veremeyecekleri konusunda uzun zamandır bir tartışma var. Bu mektupta yazan şey de tam olarak bu durumla ilgili.
Ayrıca araştırmacılar, matematiğin üretken yapay zeka gelişiminin bir sınırı olduğunu düşünüyor. Matematik yapabilme yeteneğinin, yapay zekanın insan zekasına benzer şekilde daha büyük muhakeme yeteneklerine sahip olacağına inanılıyor.
Kısaca özetlemek gerekirse mektupta geçen şey bu teknolojinin insanlardan daha güçlü ve zeki hale gelebileceği keşfedilmiş olabileceğine dair bir uyarı olabilir. Bu durumun sonucunda da bilim insanları yapay zeka kontrol edilemez bir hale gelebileceğini düşünüyor. Konu hakkında daha fazla detay bilinmezken, Sam Altman’ın kovulma sebebinin bu olay olduğu ortaya çıkmış oldu.
