USD 90,25 ₽
EUR 97,88 ₽

Антимонопольное ведомство США проверит ChatGPT на способность портить репутацию.

14 июля 2023

Федеральная торговая комиссия США (FTC) проверяет ChatGPT на его способность причинять людям репутационный ущерб. Ведомство потребует от разработчика чат-бота с искусственным интеллектом (компании OpenAl) отчёт о таких рисках.

Антимонопольное ведомство США инициировало проверку в отношении компании OpenAl. Предмет расследования - не причиняет ли чат-бот с искусственным интеллектом (ChatGPT ) ущерб людям, публикуя о них ложную информацию, - пишет издание The Wall Street Journal.

Издание отмечает, что FTC обладает широкими полномочиями по пресечению недобросовестной деловой практики. Регулятор намерен выяснить, не являются ли действия  OpenAI «недобросовестными или вводящими в заблуждение» и не несут ли они  риски «причинения вреда потребителям, включая репутационный ущерб».

Компании OpenAI в рамках проверки необходимо описать, что она сделала для предотвращения создания с помощью больших языковых моделей  «заявлений о реальных людях, которые являются ложными, вводящими в заблуждение или унижающими достоинство».  Также регулятора интересуют методы машинного обучения моделей ИИ, обработка личной информации пользователей и защита персональных данных.  Разработчику напомнили об инциденте 2020 года, когда компания раскрыла ошибку, позволившую пользователям видеть информацию о чатах других пользователей и некоторые данные, связанные с платежными операциями.

По словам председателя FTC Лины Хан, ведомство имеет сведения «об отчетах, в которых конфиденциальная информация людей появляется в ответ на запрос от кого-то другого» и «о клевете, порочащих заявлениях, появляющихся откровенно неправдивых вещах».

При этом деловое сообщество не уверено, относится ли предмет настоящей проверки к юрисдикции FTC. Так, по мнению основателя Chamber of Progress Адама Ковачевича, такие вопросы больше относятся к регулированию сферы речи.

Президент Центра искусственного интеллекта и цифровой политики Марк Ротенберг, подававший жалобу в FTC на ChatGPT в марте 2023 года, тоже не уверен,   обладает ли FTC полномочиями рассматривать вопросы о чести и репутации граждан. По его словам, в компетенцию FTC входит вводящая в заблуждение реклама, и дезинформация, касающаяся коммерческой практики.  В своей жалобе группа Ротенберга называла деятельности ChatGPT «вводящей в заблуждение и представляющей угрозу конфиденциальности и общественной безопасности».

Стоит отметить, что сами создатели ChatGPT призывали усилить государственный надзор за разработкой ИИ. Так, в мае этого года на слушаниях в Конгрессе исполнительный директор OpenAI Сэм Альтман призвал Конгресс разработать стандарты лицензирования и безопасности для ИИ. 

Компьютерные языковые модели, подобные ChatGPТ, всё прочнее входят в повседневную жизнь. Создатели алгоритмов продолжают их совершенствовать, и машины занимают места в рабочих процессах многих специальностей. О принципах работы ChatGPТ и способности ИИ заменить человека портал konkir.ru рассказывал подробно в этом материале.

 

Саша Колесникова

Фото: unsplash.com

 

Популярные