OpenAI, amiral gemisi AI hizmeti ChatGPT’nin kötü amaçlı kullanım için tasarlanmadığını açıkça belirtti.
Şirket, platformunun popüler hale gelmesiyle birlikte kötü niyetli aktörlerin platformunu kullanma eğilimlerini gözlemlediğini ayrıntılarıyla açıklayan bir rapor yayınladı.
OpenAI, ChatGPT’yi “çeşitli dağıtım platformlarında yayınlanmak üzere içerik üretmek için kod hata ayıklama” gibi yetkisiz şekillerde kullanma şüphesiyle düzinelerce hesabı kaldırdığını belirtti.
İlginizi Çekebilir: 2030’a kadar tamamlanacak: The Line’ın ilk etabı hızla yükseliyor
Şirket ayrıca yakın zamanda haftalık 400 milyon aktif kullanıcı kilometre taşına ulaştığını duyurdu. Şirket, daha fazla işletme ve geliştiricinin araçlarını kullanmasıyla kullanıcı sayısının üç aydan kısa bir sürede 100 milyondan fazla arttığını açıkladı.
Ancak ChatGPT aynı zamanda küresel olarak erişilebilen ücretsiz bir hizmet. İşlevlerinin ahlaki ve etik yönleri uzun zamandır sorgulandığından, OpenAI platform için gizli amaçları olan varlıklar olduğu gerçeğiyle yüzleşmek zorunda kaldı.
Şirket raporunda, “OpenAI’nin politikaları araçlarımızdan elde edilen çıktıların dolandırıcılık veya sahtekarlık amacıyla kullanılmasını kesinlikle yasaklamaktadır. Aldatıcı istihdam planlarına yönelik soruşturmamız sayesinde düzinelerce hesabı tespit ettik ve yasakladık” dedi.
OpenAI, raporunda ChatGPT’de gerçekleşen kötü niyetli eylemlere karşı çıkmak zorunda olduğunu ele aldı. Şirket, aracı kötü niyetli amaçla kullandığı tespit edilen hesapları yasaklayarak tespit ettiği ve harekete geçtiği birkaç vaka çalışmasını vurguladı.
Bir örnekte, OpenAI, Çin yayınının imzasıyla Latin Amerika’da yayınlanan haber kaynağıyla ABD hakkında aşağılayıcı haber makaleleri yazan bir hesabın ayrıntılarını verdi.
Kuzey Kore’de yerelleştirilen bir başka vakanın, sahte iş başvuruları için özgeçmişler ve iş profilleri oluşturduğu tespit edildi. OpenAI’ye göre, hesap Batılı şirketlerdeki işlere başvurmak için kullanılmış olabilir.
Bir başka çalışma, Kamboçya’da ortaya çıktığına inanılan ve ChatGPT’yi çeviri yapmak ve X, Facebook ve Instagram dahil olmak üzere çeşitli sosyal medya platformlarına sızan “romantik dolandırıcılar” ağlarında yorum oluşturmak için kullanan hesapları ortaya çıkardı.
OpenAI, Meta gibi sektördeki benzerleriyle bulgularını paylaştığını ve bunların ChatGPT’de gerçekleşen eylemlerden istemeden etkilenebileceğini doğruladı.
