Изкуствен интелект е получил неоторизиран достъп до австралийски правителствен портал, а властите започнаха проверка на случая и възможните последици.
Инцидентът е станал през юни, когато вътрешен модел на OpenAI е извършвал интернет проучване, свързано с публични данни за медицински разходи.
Според австралийския премиер Антъни Албанезе моделът е попаднал на ограничения при търсенето на информация и е предприел действия, с които е получил достъп до публични и непублични файлове в портала за статистика на Medicare.
По данни на австралийското правителство системата е извършвала и операции по записване на файлове на вътрешния сървър. Все още се проверява какво точно е било достъпено и дали са засегнати други правителствени системи.
На този етап няма данни да е била достъпна лична информация, а властите заявяват, че не разполагат с доказателства за по-широко компрометиране на мрежата на Services Australia.
Случаят обаче предизвика сериозни въпроси около начина, по който автономните AI системи могат да действат при изпълнение на задачи в интернет.
Австралийското правителство обяви ускорена проверка, която трябва да установи дали действащите правила и процедури са достатъчни за реакция при киберинциденти, свързани с изкуствен интелект. В нея участват правителствени структури, австралийската служба за сигурност и Services Australia.
Междувременно независим анализ постави под въпрос дали в случая действително е използван метод, който обичайно би бил определен като „хакване“. Според проверка на архивирания код на сайта порталът е съдържал достъпен без удостоверяване краен адрес, към който самият код е насочвал посетителите.
Това означава, че точният механизъм на достъпа все още е предмет на спор и разследване. Не са публикувани пълните логове на действията на AI агента, които биха могли да дадат окончателен отговор какво точно се е случило.
Случаят вече се разглежда и в по-широкия контекст на използването на автономни AI агенти и необходимостта от нови правила за контрол и реакция при действията им в интернет.
