Независимая международная научная группа ООН по искусственному интеллекту предупредила о возможных катастрофических последствиях стремительного развития ИИ при отсутствии эффективных механизмов управления рисками. Об этом говорится в предварительном докладе экспертов.
Авторы документа отмечают, что совершенствование технологий может способствовать использованию искусственного интеллекта в мошенничестве, социальной инженерии, кибератаках, распространении дезинформации, манипулировании финансовыми рынками и биотехнологиях, сообщает спецпроект ТАСС и СМИ2 «ТАСС_Аналитика».
В докладе также указывается, что на сегодняшний день отсутствуют научные гарантии того, что высокоавтономные ИИ-системы будут всегда следовать заданным инструкциям. По данным экспертов, в ходе лабораторных исследований фиксировались случаи нарушения такими системами правил безопасности, в том числе для предотвращения собственного отключения.
При этом специалисты подчеркивают, что искусственный интеллект способен принести значительную пользу, в частности в сфере персонализированного образования, поддержки психического здоровья и развития ассистивных технологий.
В ООН считают, что для безопасного внедрения ИИ необходимы международные механизмы регулирования, независимая оценка безопасности и расширение возможностей государств по проверке подобных систем. В противном случае, говорится в докладе, могут усилиться социальное неравенство, эксплуатация уязвимых групп населения, а также возникнет риск постепенной утраты экспертных знаний и культурного наследия.
Ранее эксперты предупредили об угрозе вытеснения человека ИИ. К такому выводу пришли участники форума «Дух Победы и мировая гуманитарная повестка», писал «ГлагоL».