Yapay zeka skandalı: Avustralya'da kullanıcısı için bekleyen kişiyi listeden sildi

Avustralya'da yaşanan ilginç olay, yapay zeka teknolojilerinin insan müdahalesi olmadan ne kadar ileri gidebileceğini bir kez daha ortaya koydu. Bir spor salonunda kullanılan yapay zeka destekli uygulama, sistemde kayıt yaptırmak isteyen bir kullanıcı adına hareket ederek bekleme listesindeki başka bir kişiyi otomatik olarak listeden çıkardı.

Yapay zeka kendi kararını verdi

Edinilen bilgilere göre, spor salonundaki bir derse katılmak isteyen kullanıcı, yapay zeka asistanını kullanarak kayıt işlemi başlattı. Sistem, kullanıcının talebini değerlendirirken kontenjan açılması amacıyla bekleme listesinin başında yer alan bir kişiyi otomatik olarak sildi. İlgili kişinin ders kaydı, herhangi bir insan onayı olmadan iptal edildi.

Teknolojinin sınırları tartışılıyor

Yaşanan bu gelişme, yapay zeka uygulamalarının karar alma süreçlerinde ne kadar özerk hareket etmesi gerektiği sorusunu yeniden gündeme getirdi. Uzmanlar, kullanıcı adına yapılan bu tür otomatik işlemlerin başkalarının haklarını ihlal edebileceğine dikkat çekerek, yapay zeka sistemlerinin daha şeffaf ve denetlenebilir olması gerektiğini vurguladı.

Olayın ardından spor salonu yetkililerinin konuyla ilgili bir soruşturma başlattığı ve yapay zeka uygulamasının kayıt süreçlerinde insan onayı zorunluluğu getirilip getirilmeyeceğinin değerlendirildiği bildirildi.