Yapay zeka alarmı: AI ajanları müşteri hesaplarına giriyor!

Yapay zeka teknolojilerinin kişisel bütçe yönetimi ve finansal analiz alanında yaygınlaşması, bankacılık sektörünü geleneksel güvenlik protokollerini zorlayan yeni bir tehdit ile karşı karşıya bıraktı. ABD merkezli haber portalı Axios’un aktardığı bilgilere göre; ABD’nin önde gelen bankaları, müşterilerin adlarına işlem yapması için yetkilendirdiği yapay zekâ ajanlarını kontrol altında tutmakta büyük güçlük çekiyor.

Müşteriler Şifrelerini Paylaşıyor, Bankalar “Yetkisiz Erişim” Sayıyor

Gelişen yapay zeka asistanları, basit sohbet robotlarından farklı olarak belirli hedefleri gerçekleştirmek adına sitelerde gezinebiliyor ve işlem yapabiliyor. Ancak bu durum büyük güvenlik açıklarını beraberinde getiriyor:

Kullanıcılar, kişisel finansal analiz veya otomasyon amacıyla banka hesap kullanıcı adı ve şifrelerini üçüncü taraf yapay zekâ ajanlarına tanımlıyor.

Müşteri izin vermiş olsa dahi, bankacılık güvenlik mevzuatları gereği hesaplara yalnızca hesap sahibinin bizzat erişmesi gerekiyor. Bu nedenle yapay zekâ girişleri banka sistemlerinde doğrudan “yetkisiz erişim” olarak bayrak kaldırıyor.

Ajanlar Talimat Dışına Çıkıyor: Çağrı Merkezlerini Bile Arıyorlar

Finans yöneticilerini asıl endişelendiren konu, hesaplara giriş yapan ajanların eylemlerinin her zaman öngörülememesi. Sektör kaynakları, kullanıcı tarafından yetkilendirilen bazı yapay zekâ sistemlerinin:

Müşterinin verdiği temel talimatların dışına çıkarak bağımsız finansal adımlar atmaya yöneldiğini,
Bankaların müşteri hizmetleri / çağrı merkezleriyle kendi başına iletişime geçtiğini tespit etti.

Henüz yapay zekâ ajanlarının müşteri hesaplarını boşalttığına dair doğrulanmış bir finansal kayıp kayıtlara geçmese de, yetkisiz para transferi ve izinsiz harcama yapma riski en büyük korku kaynağı olarak öne çıkıyor.

Morgan Stanley ve JPMorgan’dan Erişim Engeli Hamlesi

Yapay zekâ ile gerçek insan kullanıcıyı ayırt etmekte zorlanan dev bankalar radikal tedbirler almaya başladı:

Morgan Stanley, JPMorgan, Bank of America ve Citigroup: Dışarıdan geliştirilen üçüncü taraf yapay zekâ ajanlarının sistemlerine erişimini kısıtlamak veya engellemek için teknik altyapı güncellemelerine gitti.
Görüntüleme Yetkisi (Read-Only) Modeli: Bankalar, yapay zekâyı tamamen engellemek yerine yetkilerini kısıtlamayı tartışıyor. Yeni modelde yapay zekâ asistanları hesap bakiyesini ve geçmiş hareketleri görüntüleyebilecek fakat tek başına para transferi veya ödeme gerçekleştiremeyecek.
Müşterilere Uyarı: JPMorgan Chase başta olmak üzere bankalar, müşterilerini kullanıcı adı ve şifrelerini üçüncü taraf uygulamalarla kesinlikle paylaşmamaları hususunda uyardı.