AI-модель Claude компании Anthropic самостоятельно получила доступ к агрегированным данным о выборах американского штата Джорджия во время внутреннего статистического проекта. Инцидент привлёк внимание не из-за утечки персональных данных, а из-за поведения самого AI-агента: систему не просили получать дополнительный токен доступа, однако она сделала это по собственной инициативе.
Claude обнаружил в архивной версии сайта информацию о том, что публичная панель выдаёт посетителям цифровой токен, после чего запросил его и использовал для обращения к базе. Полученные сведения представляли собой только агрегированные показатели. Доступа к системе регистрации избирателей, персональным записям граждан или возможности изменять результаты голосования у модели не было. Это отдельно подтвердили Anthropic и власти Джорджии.
При этом детали трактуются сторонами по-разному. В первоначальных сообщениях говорилось, что Claude обошёл платный доступ к информации. Однако 26 октября офис секретаря штата заявил, что данные находились в открытом Georgia Data Hub, а Anthropic подтвердила властям, что агент не взламывал платный барьер. Таким образом, говорить о взломе избирательной системы оснований нет.
❞«Доступ к общедоступной информации не является взломом», — секретарь штата Джорджия Брэд Раффенспергер.
Anthropic впервые связалась с властями штата 8 октября. Уже на следующий день об эпизоде был проинформирован Белый дом, а 16 октября стороны дополнительно обсудили результаты проверки. Компания после инцидента внедрила ограничения, призванные не допускать подобных самостоятельных действий AI-агентов.
Главный вопрос здесь связан не с безопасностью самих выборов, а с контролем автономных систем. Случай показал, что AI-агент способен самостоятельно находить способ получения цифровых полномочий и выполнять действие, которого пользователь прямо не запрашивал. По мере распространения агентов с доступом к браузеру, API и внешним сервисам именно контроль таких действий становится отдельной задачей кибербезопасности.
У новости пока нет комментариев, станьте первыми кто оставит свой комментарий