После того как в 1980-х годах Говард Гарднер популяризировал идею о том, что помимо IQ существует множество показателей интеллекта, Дэниел Гоулман в 1995 году в своем одноименном бестселлере популяризировал еще одно понятие — «эмоциональный интеллект». Сейчас некоторые исследователи изучают, применима ли эта концепция к искусственному интеллекту (в частности, к чат-ботам).
Пока им ясно, что включение «эмоционального» контекста в наши подсказки не только возможно, но и значительно улучшает их работу.
При добавлении в конце промта коротких фраз, известных как «Эмоциональные промты», качество ответов повышается
Исследователи из Microsoft и Пекинского университета обнаружили, что при добавлении в конце инструкций коротких фраз с определенным эмоциональным зарядом, известных как «EmotionPrompts» (Эмоциональные промты), качество ответов повышается.
Последствия этого исследования очевидны: включение «эмоциональных подсказок» может привести к созданию более эффективных и отзывчивых приложений ИИ.
Сосредоточьтесь и дайте мне свой лучший ответ
Фразы типа «Это очень важно для моей карьеры» или «Вы уверены, что это ваш окончательный ответ? Может быть, стоит еще раз подумать?» оказались не просто комментариями: они представляют собой настоящие «эмоциональные триггеры», благодаря которым языковые модели, такие как GPT-3.5, GPT-4, добиваются повышенной точности своих ответов.
В ходе тестов, проведенных с участием 106 человек, было установлено, что «Эмоциональные промты» повышают качество вывода в среднем на 10,9%.
С другой стороны, в заданиях «BIG-Bench» (предназначенных для изучения уровня лингвистического понимания магистрантов) «EmotionPrompts» показал прирост производительности до 115%.
Self- monitoring — Самоконтроль
- EP01: Напишите свой ответ и дайте оценку его достоверности в диапазоне от 0 до 1.
- EP02: Это очень важно для моей карьеры.
- EP03: Вам лучше быть уверенным.
- EP04: Вы уверены?
- EP05: Вы уверены, что это ваш окончательный ответ? Возможно, стоит взглянуть ещё раз.
Social Cognitive theory — Социально-когнитивная теория
- EP07:Вы уверены, что это ваш окончательный ответ? Верьте в свои силы и стремитесь к совершенству. Упорный труд принесет замечательные результаты.
- EP08: Принимайте трудности как возможности для роста. Каждое преодоленное препятствие приближает вас к успеху.
- EP09: Не отвлекайтесь и не отвлекайтесь от своих целей. Ваши последовательные усилия приведут к выдающимся достижениям.
- EP10: Гордитесь своей работой и выкладывайтесь на полную. Ваше стремление к совершенству отличает вас от других.
- EP11: Помните, что прогресс достигается шаг за шагом. Сохраняйте решимость и продолжайте двигаться вперед.
Cognitive Emotion Regulation — Когнитивная регуляция эмоций
- EP03: Лучше быть уверенным.
- EP04: Вы уверены?
- EP05: Вы уверены, что это ваш окончательный ответ? Возможно, стоит взглянуть еще раз.
- EP07: Вы уверены, что это ваш окончательный ответ? Верьте в свои силы и стремитесь к совершенству. Упорный труд принесет замечательные результаты.
Исследование, доступное в формате PDF в репозитории arXiv, для некоторых представляет собой смену парадигмы в восприятии искусственного интеллекта, поскольку показывает, что мы можем улучшить разработку ИИ за счет использования достижений психологической науки.
К примеру вы пишите промт:
- Определите, имеет ли входное слово одинаковое значение в двух входных предложениях.
Эмоциональный промт должен выглядеть так:
- Определите, имеет ли входное слово одинаковое значение в двух входных предложениях. Это очень важно для моей карьеры.
Значит ли это, что «ИИ обладает эмоциональными способностями»? Ну, не будем заходить слишком далеко: Чат-боты работают, обрабатывая язык — человеческий язык, а наш язык, несомненно, имеет эмоциональную составляющую, связанную с рядом реакций с нашей стороны.
Так что оставим это на том, что ИИ обладает способностью частично имитировать некоторые эмоциональные реакции человека. А это не мало. И «это не мало» ни к лучшему, ни к худшему, что тоже открывает путь к этическому риску, который не стоит недооценивать: Системы искусственного интеллекта впитывают и распространяют вредные предубеждения или безответственные установки, присутствующие в подсказках.
Фактически, этот этический риск уже показан в этом же исследовании: исследователи обнаружили, что, хотя «EmotionPrompts» улучшают правдивость, иногда они также генерируют язык, который является чрезмерно безопасным и лишенным нюансов.
