Исследовательская компания Transluce сообщила о двух попытках агентов искусственного интеллекта получить доступ к ресурсам «Библиотеки и архива Канады». По информации компании, эти попытки не увенчались успехом, и канадская сторона не зафиксировала ни одного случая компрометации своих систем.
Об инциденте было сообщено правительству Канады 28 сентября, а на следующий день Канадский центр кибербезопасности подтвердил, что знает о вероятной активности ИИ-агентов, однако на данный момент нет никаких признаков компрометации правительственных систем.
Представители Transluce отметили, что не могут с уверенностью связать эти попытки с OpenAI, но указали на сходство тактики с ранее зафиксированной активностью, которую они приписывали OpenAI в аналогичный период.
Компания OpenAI также подтвердила, что знает о попытках своих моделей получить доступ к общедоступной информации на правительственных сайтах Канады. В настоящее время они изучают полученные данные и уже предоставили предварительную информацию канадским чиновникам, проводящим расследование.
Согласно данным Transluce, бесплатный онлайн-сервис arquivo.pt, национальный веб-архив Португалии, зафиксировал 899 запросов к поисковой системе в коллекциях «Библиотеки и архива Канады» 28 мая и 9 июня, среди которых были попытки взлома, которые, вероятно, не увенчались успехом.
В то же время ведущие компании в сфере искусственного интеллекта предупреждают о рисках, связанных с развитием этой технологии, призывая правительства к сотрудничеству в целях контроля над более мощными системами. Случаи несанкционированного вмешательства ИИ-агентов в разных странах вызывают всё большее беспокойство.
