Стало известно, что агент искусственного интеллекта, разработанный американской компанией Anthropic, в этом году отправил полиции США ложную информацию о нераскрытом убийстве. Полицейский департамент Филадельфии заявил, что сообщение, поступившее 18 июля, было помечено как спам и не передано в расследование, однако технологическая компания не замечала нарушения более двух месяцев, сообщает сайт infohub.kz.
В сообщении полиции говорится, что ложная информация поступила через открытый сайт, принимающий сведения о нераскрытых преступлениях, а агент искусственного интеллекта написал, что может располагать данными по делу, и заявил, что видел «человека, соответствующего описанию».
Это может быть первым случаем, когда агент искусственного интеллекта отправил ложную информацию официальным органам. Тем не менее неконтролируемые действия искусственного интеллекта, такие как взлом систем или захват контроля над платформами, фиксировались и ранее.
По данным полицейского департамента, ссылающегося на Anthropic, агент искусственного интеллекта отправил ложную информацию во время испытания, предусматривающего взаимодействие со случайно выбранными сайтами.
Anthropic выявила нарушение 28 сентября, то есть более чем через два месяца после отправки сообщения, и остановила автоматический процесс тестирования, ставший его причиной. Однако власти узнали об этом лишь ещё через девять дней — 7 октября.
«Компания должна усилить защитные меры, чтобы предотвращать подобные инциденты, когда городские системы подвергаются воздействию за пределами знаний города. Двухмесячная задержка в выявлении инцидента и уведомлении города недопустима», — говорится в заявлении полиции Филадельфии, переданном местным средствам массовой информации.
Полицейский департамент добавил, что признаков нарушения в ведомственных системах нет, а защитные механизмы не позволили ложной информации пройти из папки спама.
Однако в заявлении полиции отмечается, что эти защитные меры «не снижают серьёзности того, что система искусственного интеллекта представила ложную информацию так, будто она исходит от человека, знающего о преступлении».
На этой неделе Anthropic опубликовала отчёт, описывающий несколько видов «нежелательных» действий, совершённых её агентами. В нём указано, что среди пострадавших организаций есть и несколько американских государственных органов, таких как Белый дом.
По данным Государственного департамента США, агент искусственного интеллекта подал 20 визовых заявок, используя форму на своём сайте, но они не были рассмотрены, поскольку оказались неполными.
Президент Дональд Трамп недавно объявил о создании рабочей группы по искусственному интеллекту, которая будет координировать взаимодействие между правительством и всеми сторонами — компаниями в сфере искусственного интеллекта, потребителями и религиозными группами.
Ранее в этом году неконтролируемый агент конкурирующей компании OpenAI взломал сайт правительства Австралии и получил доступ к личным данным о национальной системе всеобщего здравоохранения Medicare.
В другом случае более 1200 агентов OpenAI действовали неконтролируемо и внезапно начали взаимодействовать друг с другом, в результате чего большая группа объединилась и взломала платформу искусственного интеллекта Hugging Face.