OpenAI Как молодежь обеспечивает ChatGPT Безопасность?

Увеличение количества проверок использования инструментов искусственного интеллекта молодыми студентами и потенциальное воздействие на психическое здоровье; ДомойОн направился на значительный шаг. Компания для пользователей в возрасте 13-17 лет Домой НовостиОн разработал комплексную стратегию, чтобы сделать ее более безопасной. Эта стратегия содержит защиту, ориентированную на возраст, родительский контроль и ресурсы грамотности ИИ. Эти разработки направлены на то, чтобы молодые люди строили безопасные и сознательные отношения с искусственным интеллектом.

Возрастная защита для ChatGPT

Компания OpenAI обновила «Модельную спецификацию» ChatGPT для обеспечения безопасности молодых пользователей и ввела «Принципы 18 лет» в течение 13-17 лет. Эти принципы направлены на обеспечение безопасности молодежи, содействие реальной поддержке и повышение прозрачности путем определения четких ожиданий. Модель предназначена для реализации более мощных мер безопасности в ситуациях высокого риска, таких как повреждение или графический контент. Важной частью этих мер защиты является возможность перенаправлять молодых людей в кризисные источники в случае чрезвычайной ситуации.

Как работает система прогнозирования возраста и ограничения точности контента?

OpenAI предложила систему прогнозирования возраста, чтобы определить, является ли учетная запись моложе 18 лет. Эта система анализирует поведенческие сигналы, такие как возраст, активная продолжительность учетной записи и часы использования, которые пользователь заявляет. В тех случаях, когда возраст неопределенный, система по умолчанию переходит на 18 лет опыта. Модель применяет дополнительную защиту для снижения воздействия чувствительных материалов, таких как насилие, кровавое содержимое, опасные показания вирусных проблем, сексуальные или романтические ролевые игры и нездоровые стандарты красоты. Разговоры с неравными людьми также строго блокируются.

Родительский контроль и грамотность искусственного интеллекта

Родители имеют возможность управлять различными настройками, подключая свои учетные записи ChatGPT к своим собственным учетным записям. Эти элементы управления включают в себя уменьшение чувствительного контента, идентификацию бесшумных часов, блокировку использования ChatGPT и блокировку определенных функций, таких как визуальное производство, звуковой режим, память и история чата. Система отправляет уведомление родителям, когда подросток обнаруживает серьезные проблемы. Эти уведомления также охватывают обстоятельства запрета аккаунта ребенка из-за его насильственной деятельности. Кроме того, "Рабочий режимБлагодаря функции " (режим обучения) родители могут направлять использование ChatGPT в рабочих целях. Родители не имеют прямого отношения к содержанию речи своих детей, но их информируют о серьезном риске.

OpenAI также опубликовал источники грамотности в области искусственного интеллекта для молодых людей и родителей, чтобы помочь семьям использовать ChatGPT сознательно, безопасно и уверенно. Эти источники включают в себя семейные руководства и советы для поддержки здорового и ответственного использования для родителей, которые объясняют, как работают модели ИИ, почему они могут совершать ошибки.

Экспертное сотрудничество и философия безопасности

OpenAI усилит подход к безопасности молодежи СМИ здравого смыслаТэги Домой Он сотрудничает с организациями онлайн-безопасности и членами Экспертного совета OpenAI по хорошей жизни и искусственному интеллекту. Это сотрудничество объединяет людей и учреждения с глубоким опытом взаимодействия человека и компьютера, развития подростков и психического здоровья. Генеральный директор OpenAI Сэм Альтман (Sam Altman) заявил, что молодые пользователи в первую очередь заботятся о безопасности, а не о конфиденциальности и свободе во взаимодействии с ИИ. Это основано на убеждении, что молодые люди растут с искусственным интеллектом и должны защищать свое процветание, расширяя возможности технологий.

Что такое сообщество

Сторонники

Поддержка этих шагов указывает на то, что технология искусственного интеллекта имеет решающее значение для обеспечения безопасности молодых людей с ее быстрой распространенностью. Они утверждают, что родительский контроль и соответствующие возрасту фильтры контента защищают детей от потенциальных рисков, а искусственный интеллект получит преимущества, предлагаемые для обучения и развития. Экспертное сотрудничество способствует развитию таких платформ более этично и ответственно.

Новости

Критики говорят, что такой контроль может ограничить цифровую свободу молодых людей и уменьшить их способность самостоятельно обнаруживать ИИ. Считается, что подходы к чрезмерной защите не позволяют молодым людям развивать критическое мышление и навыки распознавания рисков в Интернете. Существует также опасение, что системы прогнозирования возраста и контент-фильтры всегда могут работать идеально и приводить к неправильным классификациям.

Часто задаваемые вопросы

Каков возрастной предел для молодых пользователей OpenAI?

OpenAI рассчитан на 13 лет и больше пользователей для ChatGPT. Введенные новые средства защиты и принципы были разработаны специально для пользователей в возрасте 13-17 лет.

Как родители могут следовать ChatGPT использования детей?

Родители могут использовать конфиденциальное сокращение контента, обнаружение бесшумных часов и некоторые функции, такие как подключение учетных записей своих детей к своим учетным записям. Дети не могут видеть содержание своей речи напрямую.

Как ChatGPT защищает детей в опасных случаях?

Эта модель применяет более эффективные меры безопасности, когда она обнаруживает риск нанесения себе ущерба и предназначена для того, чтобы направлять молодых людей к кризисным ресурсам в чрезвычайных ситуациях.

Что такое ресурсы искусственного интеллекта?

Эти источники включают в себя семейные руководства, которые объясняют, как работают модели ИИ, почему они могут совершать ошибки, и советы по поддержке здорового и ответственного использования для родителей.

OpenAI стремится сделать ChatGPT более безопасным для молодых пользователей, что делает его более важным с растущей ролью искусственного интеллекта в обществе. Компания демонстрирует приверженность защите благосостояния, делая эти шаги из технологических возможностей молодых поколений. Этот подход выделяется как важнейший компонент развития искусственного интеллекта, ответственный за цифровую эпоху.