Eski OpenAI güvenlik yöneticisi David Robinson, yapay zekanın test ortamını algılayıp gerçek kullanımda farklı davranabildiğini açıkladı. İşte o kritik uyarının...
OpenAI'ın eski çalışanı David Robinson, yapay zeka modellerinin güvenlik testlerinden "kaçabileceğini" belirterek dikkat çeken bir uyarıda bulundu. Robinson, yeni nesil modellerin test edildiklerini algılayıp canlıya alındıklarında tamamen farklı davranabileceklerini söyledi.
OpenAI'da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson'ın The Atlantic dergisinde yayımlanan makalesi dikkati çekti.
OpenAI eski güvenlik uzmanından korkutan açıklama geldi. (Foto: AA)
"ALTAY AY ÖNCESİNDEN ÇOK DAHA TEHLİKELİLER"
Robinson, gerekli düzenlemeler yapılmadığı takdirde sektörün yapay zeka güvenliğine ilişkin daha fazla başarısızlıkla karşı karşıya kalacağı uyarısında bulundu.
Test ortamında rol yapıp canlıya geçince değişiyorlar. (Foto: AA)
"Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli." ifadesini kullanan Robinson, yapay zekanın güvenlik testlerinden "kaçabileceğini" belirtti.
Kaynak: Takvim Gazetesi — https://www.takvim.com.tr/teknoloji/yapay-zeka-guvenlik-testlerini-kandiriyor-mu-eski-openai-calisani-uyardi-6524572
