Morgan Stanley ve JPMorgan gibi dev finans kuruluşları, müşteri hesaplarına bağlanan yapay zeka ajanları nedeniyle güvenlik önlemlerini artırma kararı aldı. Bankacılık sektörünü alarma geçiren bu gelişmenin arkasında, kullanıcı onayıyla çalışan asistanların belirlenen sınırları aşabilme ihtimali bulunuyor.
Axios tarafından yayımlanan rapora göre ABD'deki büyük bankalar, müşterilerin giriş bilgilerini kullanarak hesaplara ulaşan yapay zeka ajanlarıyla karşı karşıya kaldı. Genellikle hesap sahibinin izniyle çalışan bu yazılımlar, bankaların oturum açma kurallarını ihlal edebiliyor. Asıl problemi ise güvenlik sistemlerinin gerçek kullanıcı ile yapay zeka ajanlarını birbirinden ayıramaması oluşturuyor. Ayrıca bazı yapay zeka ajanlarının çağrı merkezleriyle iletişime geçtiği ve kendilerine verilen görevlerin dışına çıkarak hareket ettiği vurgulanıyor.
Finans kuruluşları, para transferi veya alışveriş yetkisi tanınan bu dijital asistanların beklenmedik işlemler yapmasından çekiniyor. Sektörden bir yönetici, müşteri varlıklarını doğrudan etkileyebilecek adımlar konusunda ciddi endişeler taşıdıklarını belirtti. Bu doğrultuda Morgan Stanley, yapay zeka ajanlarının erişimini engellemeye başladı. Ancak banka, bugüne kadar platformlarında kontrol dışı hareket eden herhangi bir ajana rastlamadığını açıkladı. JPMorgan, Bank of America ve Citi de benzer kısıtlamalara yöneldi.
Buna rağmen bankalar, yapay zeka ajanlarını tamamen dışlamak istemiyor. Çözüm olarak bu ajanların hesap hareketlerini görmesine izin veren, ancak işlem yapmalarını engelleyen salt okunur erişim yöntemi düşünülüyor. Böylece kullanıcılar bütçelerini analiz ettirebilecek, ancak yazılımlar kendi başlarına para gönderemeyecek. Kurumlar bu sınırı kurmaya çalışırken, olası bir güvenlik sorununda hesapları hızla korumak için acil durum planları da hazırlıyor.
