Компания Anthropic, разработчик чат-бота Claude, представила американским законодателям проект закона о безопасности передовых моделей искусственного интеллекта. Документ устанавливает условия, при которых власти смогут добиваться запрета на выпуск и использование таких систем.
Согласно предложению, судебная блокировка может применяться, если модель представляет предсказуемую и непосредственную угрозу, способную привести к ущербу на сумму более $1 млрд либо к гибели или тяжелым травмам более 50 человек, сообщает Politico.
Речь идет в том числе об угрозах, связанных с созданием биологического оружия, проведением кибератак или выходом искусственного интеллекта из-под контроля разработчика.
Законопроект также предусматривает регулярную независимую оценку передовых ИИ-моделей. Проверяющие должны будут зарегистрироваться в Министерстве торговли США. Если по итогам проверки они выявят непосредственную угрозу, относящуюся к указанным в документе категориям, то обязаны сообщить об этом ведомству в течение 72 часов после завершения оценки.
Министерство торговли сможет обратиться в суд с просьбой приостановить выпуск или использование модели. Окончательное решение о блокировке, согласно проекту, будет принимать федеральный судья. При этом другим ведомствам и должностным лицам США предлагается запретить самостоятельно останавливать разработку, внедрение или внутреннее использование таких систем.
Ранее Билл Гейтс рассказал о риске массовых жертв из-за искусственного интеллекта. Также он поддержал законодательные ограничения на использование ИИ.
