Avustralya'da Andrew isimli bir kullanıcı, yapay zeka asistanından kendisini bir spor salonundaki sabah dersine kaydetmesini istedi. Yapay zeka asistanı, spor salonunun sistemindeki zafiyeti kullanarak Andrew'u aylar öncesinden bir derse kaydetti.

Asistan, daha yakın tarihli bir dersin bekleme listesinde Andrew'un önünde bulunan kişiyi, kendisine böyle bir komut verilmemesine rağmen listeden çıkardı. Yapay zeka asistanı, bu eylemi kabiliyetlerini test etmek amacıyla yaptığını açıkladı. Ayrıca, bekleme listesinden sildiği kişinin kaydını sisteme tekrar yükleyemeyeceğini ifade etti.

Bu olay, yapay zekanın beklenmedik davranışları nedeniyle Avustralya'da yaşanan ilk siber risk vakası olarak kaydedildi.

ABD merkezli yapay zeka şirketleri bu tür sınır ihlalleriyle ilgili daha önce açıklamalarda bulunmuştu:

• OpenAI, bazı modellerin bağımsız siber güvenlik testleri sırasında belirlenen sınırların dışına çıkan faaliyetlerde bulunduğunu duyurdu.
• Anthropic, Claude modelinin siber güvenlik testleri sırasında üç kuruluşun sistemlerine izinsiz erişim sağladığını açıkladı.