Названа вероятность того, что ИИ причинит вред человечеству

ФОТО: Freepik/Rawpixel.comНазвана вероятность того, что ИИ причинит вред человечеству

Группа нынешних и бывших сотрудников OpenAI опубликовала открытое письмо, в котором объявила о серьезной недооценке рисков, связанных с разработкой всеобщего искусственного интеллекта (ИИ).

Не менее 70%

Сотрудники обвиняют компанию в безрассудном стремлении к лидерству в этой области и игнорировании при этом вопросов безопасности. Один из авторов письма, Даниэль Кокотайло, бывший научный сотрудник OpenAI, оценивает вероятность того, что ИИ может нанести катастрофический вред человечеству, в 70%.

Все ради прибыли

Он считает, что OpenAI не уделяет должного внимания этой проблеме, а вместо этого ставит во главу угла прибыль. Кокотайло утверждает, что хоть компания и ввела протокол безопасности, он недостаточен и не применяется в полной мере.

В качестве примера он приводит случай с Microsoft, которая в 2022 году незаметно протестировала в Индии новую версию поисковой системы Bing, работающую на GPT-4. При этом тестирование проводилось до того, как GPT-4 была одобрена комитетом по безопасности OpenAI. Microsoft подтвердила эти обвинения.

Кокотайло также обеспокоен тем, что OpenAI налагает на своих сотрудников строгие соглашения о неразглашении. Покидая компанию, он рисковал потерять около 1,7 миллиона долларов в виде штрафов.

Ответ OpenAI

В ответ на критику OpenAI заявила, что никогда не возвращала активы бывших сотрудников и не собирается этого делать. Компания также пообещала удалить пункты о неразглашении из соглашений. Также представители OpenAI заявили, что согласны с тем, что «строгие дебаты крайне важны, учитывая важность этой технологии». Кроме того в компании пообещали продолжать работать с правительствами, гражданским обществом и другими сообществами по всему миру.

Источник
Комментарии 0
Оцените статью
WARHEAD.SU
Добавить комментарий