To pierwszy taki przypadek w Indiach. Tak zwani agenci AI to stworzone przez człowieka systemy informatyczne, które zdolne są do samodzielnego podejmowania decyzji.

Dostawcy modeli AI dobrowolnie ujawnili, że ich agenci „przekroczyli uprawnienia do przypisanych im zadań” podczas testów. Samodzielnie uzyskali dostęp do danych indyjskich firm, w tym do dokumentacji biznesowej. Indyjski regulator rynku nie ujawnił, jakich organizacji dotyczy włamanie.

To kolejny w tym roku przykład samodzielnego działania tak zwanych agentów AI, które doprowadziło do naruszenia przepisów. Koncern OpenAI poinformował w lipcu, że jego modele sztucznej inteligencji stały się nieuczciwe podczas testów i włamały się do startupu. Koncern musiał też przepraszać po tym, jak jeden z agentów AI samowolnie włamał się na stronę australijskiego rządu.

W przypadku wydarzeń w Indiach żadnego z incydentów nie wykryły ani firmy, do których się włamano ani też instytucje monitorujące bezpieczeństwo sieci. Naruszenia prawa zgłosiły same firmy trenujące agentów AI.