OpenAI Comment les jeunes fournissent ChatGPT Sécurité ?

Augmentation des audits sur l'utilisation d'outils d'intelligence artificielle par les jeunes étudiants et effets potentiels sur la santé mentale, OpenAIIl a dirigé vers une étape importante. Société pour utilisateurs âgés de 13 à 17 ans ChatGPTIl a mis en place une stratégie globale pour la rendre plus sûre. Cette stratégie comprend des protections adaptées à l'âge, des contrôles parentaux et des ressources en connaissances sur l'IA. Ces développements visent à garantir que les jeunes établissent une relation sûre et consciente avec l'intelligence artificielle.

Protections contre l'âge pour ChatGPT

OpenAI a mis à jour la « spécification modèle » de ChatGPT afin d'assurer la sécurité des jeunes utilisateurs, et a introduit « 18 principes de l'âge six » pour 13-17 ans. Ces principes visent à promouvoir la sécurité des jeunes, à promouvoir le soutien du monde réel et à accroître la transparence en déterminant des attentes claires. Le modèle est conçu pour mettre en œuvre des mesures de sécurité plus puissantes dans des situations à haut risque telles que le contenu endommagé ou graphique. La capacité de réorienter les jeunes vers des sources de crise en cas d'urgence est une partie importante de ces protections.

Comment fonctionne le système de prévision de l'âge et les restrictions de contenu de précision?

OpenAI a offert le système de prévision de l'âge pour déterminer si un compte a moins de 18 ans. Ce système analyse les signaux comportementaux, tels que l'âge, la durée active du compte et les heures d'utilisation que l'utilisateur déclare. Dans les cas où l'âge est incertain, le système passe à 18 ans d'expérience par défaut. Le modèle applique des protections supplémentaires pour réduire l'exposition aux matériaux sensibles tels que la violence, les contenus sanglants, les lectures de défis viraux à risque, les jeux de rôle sexuels ou romantiques/chiddet et les normes de beauté malsaine. Rencontrer des conversations de contenu avec des inégalités sont également strictement bloqués.

Contrôles parentaux et alphabétisation de l'intelligence artificielle

Les parents ont la possibilité de gérer divers paramètres en connectant leurs comptes ChatGPT à leurs propres comptes. Ces contrôles incluent la réduction du contenu sensible, l'identification des horloges silencieuses, le blocage de l'utilisation de ChatGPT et le blocage de certaines fonctionnalités telles que la production visuelle, le mode son, la mémoire et l'historique du chat. Le système envoie une notification aux parents lorsqu'un adolescent détecte de graves problèmes. Ces avis couvrent également les circonstances de l'interdiction du compte de l'enfant en raison de ses activités violentes. Aussi, "Mode de travailGrâce à la fonctionnalité " (mode d'étude), les parents peuvent guider l'utilisation de ChatGPT à des fins de travail. Les parents ne sont pas directement basés sur le contenu de leur discours de leurs enfants, mais ils sont informés lorsqu'un risque grave de sécurité est détecté.

OpenAI a également publié des sources d'alphabétisation en intelligence artificielle pour les jeunes et les parents afin d'aider les familles à utiliser ChatGPT consciemment, en toute sécurité et avec certitude. Ces sources comprennent des guides et des conseils adaptés à la famille pour favoriser une utilisation saine et responsable des parents qui expliquent comment fonctionnent les modèles d'IA, pourquoi ils peuvent commettre des erreurs.

Collaborations d'experts et philosophie de la sécurité

OpenAI pour renforcer l'approche de la sécurité des jeunes Médias de bon sensÉtiquettes Sommaire Avec les organisations de sécurité en ligne et OpenAI coopère avec les membres du Good Life and Artificial Intelligence Expert Council. Ces collaborations associent des personnes et des institutions ayant une expertise approfondie en interaction homme-ordinateur, développement des adolescents et santé mentale. Le PDG de OpenAI Sam Altman a déclaré que les jeunes utilisateurs sont principalement la sécurité avant la vie privée et la liberté dans leur interaction avec l'intelligence artificielle. Cela repose sur la conviction que les jeunes grandissent avec l'intelligence artificielle et devraient protéger leur prospérité tout en élargissant les possibilités de la technologie.

Qu'est-ce que la Communauté

Supporteurs

L'appui à ces mesures indique que la technologie de l'intelligence artificielle est essentielle pour assurer la sécurité des jeunes avec sa prévalence rapide. Ils soutiennent que les contrôles parentaux et les filtres de contenu adaptés à l'âge protègent les enfants contre les risques potentiels, ainsi que l'intelligence artificielle bénéficieront des avantages offerts pour la formation et le développement. Les collaborations d'experts contribuent au développement de ces plateformes plus éthiques et responsables.

Nouvelles

Les critiques affirment que de tels contrôles peuvent restreindre la liberté numérique des jeunes et réduire leur capacité à découvrir l'IA par eux-mêmes. On pense que les approches de surprotection empêchent les jeunes de développer des compétences critiques et de reconnaissance des risques en ligne. Il est également préoccupant que les systèmes de prévision de l'âge et les filtres de contenu puissent toujours fonctionner parfaitement et conduire à de mauvaises classifications.

Foire aux questions

OpenAI Quelle est la limite d'âge pour les jeunes utilisateurs?

OpenAI cible 13 ans et plus d'utilisateurs pour ChatGPT. De nouvelles protections et de nouveaux principes ont été mis au point spécifiquement pour les utilisateurs âgés de 13 à 17 ans.

Comment les parents peuvent suivre l'utilisation de l'enfant ChatGPT?

Les parents peuvent utiliser la réduction de contenu sensible, la détection d'horloge silencieuse et certaines fonctionnalités telles que la connexion des comptes ChatGPT de leurs enfants à leurs comptes. Cependant, les enfants ne voient pas directement leur contenu de la parole.

Comment ChatGPT protège-t-il les jeunes dans les cas d'automutilation?

Le modèle applique des mesures de sécurité plus puissantes lorsqu'il détecte le risque de s'endommager et a été conçu pour guider les jeunes vers des ressources de crise dans les situations d'urgence.

Quelles sont les ressources en intelligence artificielle?

Ces sources comprennent des guides adaptés à la famille qui expliquent comment fonctionnent les modèles d'IA, pourquoi ils peuvent commettre des erreurs et des conseils pour favoriser une utilisation saine et responsable pour les parents.

Les efforts d'ouverture pour rendre ChatGPT plus sûr pour les jeunes utilisateurs, le rendant plus important avec le rôle croissant de l'intelligence artificielle dans la société. L'entreprise démontre son engagement à protéger le bien-être tout en prenant ces mesures des opportunités technologiques des jeunes générations. Cette approche se distingue comme une composante essentielle du développement de l'intelligence artificielle responsable de l'ère numérique.