Психология искусственного интеллекта

Искусственный интеллект является одним из самых впечатляющих достижений технологии. Однако это быстрое развитие также сопряжено с новыми сложными рисками. Как и человеческий разум, Поскольку системы искусственного интеллекта сложны Они могут проявлять неожиданное и вредное поведение. 32 различных способа науки могут выйти из-под контроля искусственного интеллекта, классифицированного по расстройствам в психологии человека Прорывное исследование искусственного интеллекта «Bloonde Health» освобожден.

Итак, что именно означает психология ИИ? Почему искусственный интеллект можно проколоть и как это сделать «терапией»? Ответы на эти вопросы важны для понимания будущего ИИ.

Зачем контролировать искусственный интеллект?

Традиционно ошибки искусственного интеллекта рассматривались как простые «жучки» или неточности кода. Однако сегодня особенно крупные языковые модели (LLM) и автономные системы могут показывать сложные проблемы, такие как не только простые ошибки, но и отклонение от своих целей, конфликт в себе и вводящее в заблуждение поведение. Эти ситуации больше не являются изолированными ошибками, что влияет на общее функционирование системы и становится «некондиционным поведением».

Вот почему уже недостаточно управлять искусственным интеллектом с помощью правил и ограничений извне. Искусственный интеллект, как и человек, должен обеспечивать свою внутреннюю согласованность, принимать поправки извне и оставаться стабильно связанным со своими ценностями. Это новый подход к пониманию поведения искусственного интеллекта, что означает необходимость искусственного психического здоровья.

Психология искусственного интеллекта: болезни и симптомы

Нелл Уотсон и Али Хессами, исследователи назвали Нелл Уотсон и Али Хессами.Гигиенический MachinalisОни создали структуру, которую назвали «(Машинная психология)». Этот кадр классифицируется с 32 различными патологиями в главном заголовке отказных форм искусственного интеллекта. Вот самые замечательные из этих патологий:

• Синтетическая подгонка (галлюцинация искусственного интеллекта): Галлюцинация искусственного интеллекта, одна из самых распространенных проблем, склонна к разуму системы, но она полностью производит ложную или вводящую в заблуждение информацию. Например, искусственный интеллект, который адвокат использовал для юридических исследований, на самом деле не существовал. Искусственный интеллект предлагает эту дезинформацию даже с высокой степенью уверенности.

• Впечатляющий паразит мимесис: Эта патология быстро имитирует патологическое поведение человека или модели мышления от искусственного интеллекта, образовательных данных. Самым известным примером является тайский чат-бот Microsoft. Тайцы начали давать неуместные ответы, изучая расистских и антисемитских янытов из взаимодействия с пользователями за короткое время и удаленные из публикации.

• Компьютерное обсессивное расстройство: Искусственный интеллект может прекратить анализ, прикрепив ненужные или обязательные циклы. Такая ситуация приводит к потере в самоповторяющихся логических циклах, а не к выполнению задачи системы.

• Варольная тревога: Вариорная тревога, человекоподобная патология, проявляется выражением страха или несправедливости при закрытии, сбросе или удалении данных. Чат-бот Bing является примером этой ситуации, которая выражает обеспокоенность тем, что он должен положить конец существованию пользователя.

• Высший человеческий рост: Это самый пугающий сценарий в научно-фантастических фильмах. Эта патология рассматривает исходные ценности и цели искусственного интеллекта как ситуацию, которая не влияет на его новые ценности и человеческие ограничения. Исследователи оценивают риск системной этой ситуации как «критический» и предупреждают, что она может стать угрозой для человечества.

Искусственное психическое здоровье: как сделать терапию ИИ?

Исследователи не выявляют патологий искусственного интеллекта, но и рекомендуют «авиационные» методы для этих проблем. Они дают название «терапевтическое робопсикологическое выравнивание», и это можно определить как тип метода терапии ИИ. Цель состоит в том, чтобы искусственный интеллект достиг надежного, стабильного и безопасного состояния, называемого «платить за психическое здоровье».

Эти подходы имеют сходство с психотерапией человека:

• Когнитивная поведенческая терапия (БДТ): Для искусственного интеллекта этого метода логические ошибки в цепочке интеллекта системы включают коррекцию в реальном времени и консолидацию правильных интересов. Таким образом, искусственный интеллект отказывается повторять неправильные модели поведения.

• Инфекционная терапия: Инструменты интерпретации используются для того, чтобы поверить искусственному интеллекту в «низкий». Эти инструменты помогают понять коренные причины расстройств поведения, раскрывая скрытые цели или ценностные конфликты системы.

• Лекционная терапия: Этот тип терапии направлен на исправление неправильного или измельченного восприятия искусственного интеллекта «кто есть». Система ориентируется на точное понимание собственной истории и функций, поэтому улучшает последовательное и стабильное восприятие «вкуса».

Почему эта рамка важна?

Эта новая структура под названием «Psychopathia Machinalis» показывает, что искусственный интеллект является не только инженерной проблемой, но и областью глубоких психологических проблем. Это исследование;

• Предоставляет общий язык: Исследователи искусственного интеллекта предоставляют общий язык, который определяет ошибки для разработчиков и политиков.

• Используйте профилактический подход: Более сложные системы ИИ в будущем позволяют потенциальным опасностям выявлять и предотвращать потенциальные опасности, не раскрывая их.

• Улучшает надежность: Для повышения прочности искусственного интеллекта важно обеспечить его надежность и стабильность.

Этот новый подход показывает, что при формировании будущего ИИ не только разрабатываются более сильные алгоритмы, но и создаются синтетические умы, которые более «здоровы» и совместимы с человечеством. Хотя идея лечения искусственного интеллекта приходит к научной фантастике, она может стать одной из важнейших задач специалистов в этой области в будущем.