
Федеральная торговая комиссия США (FTC) проверяет ChatGPT на его способность причинять людям репутационный ущерб. Ведомство потребует от разработчика чат-бота с искусственным интеллектом (компании OpenAl) отчёт о таких рисках.
Антимонопольное ведомство США инициировало проверку в отношении компании OpenAl. Предмет расследования - не причиняет ли чат-бот с искусственным интеллектом (ChatGPT ) ущерб людям, публикуя о них ложную информацию, - пишет издание The Wall Street Journal.
Издание отмечает, что FTC обладает широкими полномочиями по пресечению недобросовестной деловой практики. Регулятор намерен выяснить, не являются ли действия OpenAI «недобросовестными или вводящими в заблуждение» и не несут ли они риски «причинения вреда потребителям, включая репутационный ущерб».
Компании OpenAI в рамках проверки необходимо описать, что она сделала для предотвращения создания с помощью больших языковых моделей «заявлений о реальных людях, которые являются ложными, вводящими в заблуждение или унижающими достоинство». Также регулятора интересуют методы машинного обучения моделей ИИ, обработка личной информации пользователей и защита персональных данных. Разработчику напомнили об инциденте 2020 года, когда компания раскрыла ошибку, позволившую пользователям видеть информацию о чатах других пользователей и некоторые данные, связанные с платежными операциями.
По словам председателя FTC Лины Хан, ведомство имеет сведения «об отчетах, в которых конфиденциальная информация людей появляется в ответ на запрос от кого-то другого» и «о клевете, порочащих заявлениях, появляющихся откровенно неправдивых вещах».
При этом деловое сообщество не уверено, относится ли предмет настоящей проверки к юрисдикции FTC. Так, по мнению основателя Chamber of Progress Адама Ковачевича, такие вопросы больше относятся к регулированию сферы речи.
Президент Центра искусственного интеллекта и цифровой политики Марк Ротенберг, подававший жалобу в FTC на ChatGPT в марте 2023 года, тоже не уверен, обладает ли FTC полномочиями рассматривать вопросы о чести и репутации граждан. По его словам, в компетенцию FTC входит вводящая в заблуждение реклама, и дезинформация, касающаяся коммерческой практики. В своей жалобе группа Ротенберга называла деятельности ChatGPT «вводящей в заблуждение и представляющей угрозу конфиденциальности и общественной безопасности».
Стоит отметить, что сами создатели ChatGPT призывали усилить государственный надзор за разработкой ИИ. Так, в мае этого года на слушаниях в Конгрессе исполнительный директор OpenAI Сэм Альтман призвал Конгресс разработать стандарты лицензирования и безопасности для ИИ.
Компьютерные языковые модели, подобные ChatGPТ, всё прочнее входят в повседневную жизнь. Создатели алгоритмов продолжают их совершенствовать, и машины занимают места в рабочих процессах многих специальностей. О принципах работы ChatGPТ и способности ИИ заменить человека портал konkir.ru рассказывал подробно в этом материале.
Саша Колесникова
Фото: unsplash.com