Ученые обучили ИИ говорить на его собственном языке

Новое исследование команды из Института автоматизации Китайской академии наук, исследует возможность возникновения языка, на котором будут общаться между собой машины. При этом язык машин не будет опираться на язык людей, как на язык-посредник. Главным источником взаимопонимания должны стать визуальные преставления. Машины могут заговорить на языках, которых люди не знают Разговоры роботов о человеке. DALLE-3 Юрий Лотман: «Если человеку удастся создать полно­ценный искусственный разум, то мы менее всего заинтересованы, чтобы этот разум был точной копией человеческого».

Новое исследование команды из Института автоматизации Китайской академии наук, исследует возможность возникновения языка, на котором будут общаться между собой машины.

С появлением больших языковых моделей (LLM) ИИ развивается, постепенно осваивая навыки мышления. В этом процессе человеческий язык-посредник является ключевым компонентом. В новом исследовании ученые поставили вопрос, могут ли машины спонтанно и самостоятельно создать собственный язык, который опирается только на визуальные представления и не полагается на человеческий язык.

Исследователи начали с моделирования возникновения языка в самом простом сценарии игры двух агентов. Их целью было создание языка при взаимодействии этих агентов. Используя игру «Говори, угадай и нарисуй» в качестве платформы, исследователи демонстрируют возможности нейронных сетей в создании дискретных и семантических представлений.

а) Появлению языка способствует игра «Говори, отгадывай и рисуй», изображенная слева направо. Получив случайное изображение, агент А пытается описать его, используя новый машинный язык. Агент B, слушатель, должен угадать, что описывает А. Поняв, что говорит А в ответ B рисует изображение того, что говорит А. (b) Сетевая структура говорящего и слушающего основана на архитектуре кодера-декодера. Говорящий сначала воспринимает изображение и генерирует последовательность символов, представляющих выражение на язык машин. Затем слушатель получает последовательность символов, означающих выражение на языке машин, в качестве входных данных и выводит запрос, чтобы угадать правильную цель в пакете. Дополнительно слушатель рисует изображение в соответствии с пониманием машинного языка. (c) Чтобы оценить эффективность подхода, ученые провели эксперименты на пяти наборах данных. Левый график иллюстрирует точность обучения в разные эпохи обучения, демонстрируя явное улучшение точности угадывания с помощью машинного языка. Правый график сравнивает точность теста со случайным предположением. а) Появлению языка способствует игра «Говори, отгадывай и рисуй», изображенная слева направо. Получив случайное изображение, агент А пытается описать его, используя новый машинный язык. Агент B, слушатель, должен угадать, что описывает А. Поняв, что говорит А в ответ B рисует изображение того, что говорит А. (b) Сетевая структура говорящего и слушающего основана на архитектуре кодера-декодера. Говорящий сначала воспринимает изображение и генерирует последовательность символов, представляющих выражение на язык машин. Затем слушатель получает последовательность символов, означающих выражение на языке машин, в качестве входных данных и выводит запрос, чтобы угадать правильную цель в пакете. Дополнительно слушатель рисует изображение в соответствии с пониманием машинного языка. (c) Чтобы оценить эффективность подхода, ученые провели эксперименты на пяти наборах данных. Левый график иллюстрирует точность обучения в разные эпохи обучения, демонстрируя явное улучшение точности угадывания с помощью машинного языка. Правый график сравнивает точность теста со случайным предположением.https://academic.oup.com/nsr/article/11/4/nwad317/7505147

Язык машин в такой игре действительно появился, то есть на определенных наборах агенты достигли взаимопонимания.

Команда сравнила символический дискретный язык с непрерывными функциями языка больших языковых моделей (LLM) с трех точек зрения: интерпретируемость, обобщение и надежность на различных наборах данных.

LLM обучаются на больших наборах связных текстов. Фактически они учатся правильно заполнять пробелы в гигантском тексте, чтобы возникало непрерывное (гладкое) сообщение.

Язык возникающий из визуальных представлений без языка-посредника — язык дискретный. Как показали ученые, такой язык обладает интерпретируемостью и способностью к обобщению, как и LLM. Но дискретный язык оказывается надежнее при возникающих возмущениях.

ИИ учит языки людей и животных widget-interest

ИИ научился языку, глядя на мир глазами ребенка и слушая, что ему говорят взрослые

 

Ученые хотят «поговорить» с китами с помощью искусственного интеллекта

Изучение дискретного языка-машин представляет собой ценное направление в исследованиях искусственного интеллекта. Представьте себе будущее, в котором интеллектуальные агенты будут свободно развиваться в конкретной среде, общаясь и сотрудничая посредством спонтанного возникающего языка.

Источник
Комментарии 0
Оцените статью
WARHEAD.SU
Добавить комментарий