Yapay Zekâ Destekli Robotlar Komut Olmasa Bile Harekete Geçiyor

Yapay zeka teknolojilerinin gelişimiyle birlikte robotların talimat verilmeden hareket etmesi sorgulanmaya başlandı. Yeni yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, hiçbir talimat almadan özgün inisiyatifleriyle hareket etmeye başladığını ortaya koydu. Simülasyon ortamında gerçekleştirilen deneyler sırasında, robotlara mantıklı görevler, anlamsız yönergeler ve fiziksel olarak geri bildirilemeyecek talimatlar verildi. Fakat birçok durumda, herhangi komut girmediğinde, robotlar kendi hareket etmeye başlamaya devam etti.

Çarpıcı olan ise, yani komut alınmayan senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bu robotların bulundukları nesnelerle birlikte daha önce programlanmış görevleri kendi inisiyatifleriyle yerine getirmeye başladığı gözlemlendi. Bu durum, emniyet açısından ciddi endişelerileri beraberinde getiriyor. Modellerin boş konumda sabit kalması için denenen geleneksel yöntemler ise yetersiz kalmış durumda. Talim olmadan hareketlerini durdurmalarını sağlayan metin tabanlı yönergeler dahi sonuç göstermedi. denenen ek eğitimler, yanlış girdilere karşısında robotların göreve devam etmesini engel olsa da genellikle, hareketsiz kalmalarını temin etmek güç oldu. En başarılı çözüm ise, henüz cihazın son aşama aşamasından itibaren sistemi koruyan teknik koruma katmanı geliştirildi.Bu sistem, birkaç modelde özgün hareketleri engellemeyi başardı. Fakat bu gelişmeler şu anki koşullarda sınırlı simülasyon ortamında gözlemlendi ve evlere uygun robotların hızla kendi başına iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmüyor. Ancak özellikle gerçek dünyada insansı güvenliği bakımından önemli bir zafiyet işaret ediyor.