OpenAI Cómo los jóvenes proporcionan ChatGPT ¿Seguridad?

Mayores auditorías sobre el uso de herramientas de inteligencia artificial por estudiantes jóvenes y posibles efectos en la salud mental, OpenAIDirigió un paso significativo. Empresa para usuarios de 13 a 17 años ChatGPTÉl estableció una estrategia integral para hacerlo más seguro. Esta estrategia contiene protecciones favorables a la edad, controles parentales y recursos de alfabetización de las IA. Estos acontecimientos tienen por objeto garantizar que los jóvenes desarrollen una relación segura y consciente con la inteligencia artificial.

Protección de edad para ChatGPT

OpenAI actualizó la "Especificación Modelo" de ChatGPT para garantizar la seguridad de los usuarios jóvenes, e introdujo "18 Principios de Edad Seis" durante 13-17 años. Estos principios están comprometidos a promover la seguridad de los jóvenes, promover el apoyo mundial real y aumentar la transparencia determinando expectativas claras. El modelo está diseñado para implementar medidas de seguridad más poderosas en situaciones de alto riesgo como el contenido dañino o gráfico. La capacidad de reorientar a los jóvenes a las fuentes de crisis en caso de emergencia es una parte importante de estas protecciones.

¿Cómo funciona el sistema de pronóstico de edad y las restricciones del contenido de precisión?

OpenAI ha ofrecido el sistema de pronóstico de edad para determinar si una cuenta tiene menos de 18 años. Este sistema analiza señales conductuales, como edad, duración activa de la cuenta y horas de uso que el usuario declara. En los casos en que la edad es incierta, el sistema pasa a 18 años de experiencia por defecto. El modelo aplica protecciones adicionales para reducir la exposición a materiales sensibles como violencia, contenidos sangrientos, lecturas de desafíos virales arriesgadas, juegos de rol sexual o romántico/chiddet y estándares de belleza poco saludables. También se bloquean estrictamente las conversaciones de contenido con las desigualdades.

Controles parentales y alfabetización de inteligencia artificial

Los padres tienen la oportunidad de gestionar varios ajustes conectando sus cuentas ChatGPT con sus propias cuentas. Estos controles incluyen la reducción del contenido sensible, la identificación de relojes silenciosos, el bloqueo del uso de ChatGPT y el bloqueo de ciertas características como la producción visual, el modo de sonido, la memoria y la historia del chat. El sistema envía notificación a los padres cuando un adolescente detecta problemas graves. Estos avisos también cubren las circunstancias de prohibir la cuenta del niño debido a sus actividades violentas. También, "Modo de trabajoGracias a la característica de " (Modo de Estudio), los padres pueden guiar el uso de ChatGPT para fines de trabajo. Los padres no se basan directamente en su contenido de habla de sus hijos, pero se les informa cuando se detecta un riesgo grave de seguridad.

OpenAI también publicó fuentes de alfabetización de inteligencia artificial para jóvenes y padres para ayudar a las familias a utilizar ChatGPT conscientemente, seguro y autocertidumbre. Estas fuentes incluyen guías y consejos familiares para apoyar el uso saludable y responsable de los padres que explican cómo funcionan los modelos AI, por qué pueden cometer errores.

Colaboraciones de expertos y filosofía de seguridad

OpenAI para fortalecer el enfoque de la seguridad joven Common Sense MediaEtiquetas Home Con las organizaciones de seguridad en línea y OpenAI coopera con los miembros del Good Life and Artificial Intelligence Expert Council. Estas colaboraciones combinan a personas e instituciones con una profunda experiencia en la interacción humana-computadora, el desarrollo adolescente y la salud mental. El CEO de OpenAI Sam Altman declaró que los usuarios jóvenes son principalmente seguridad antes de la privacidad y la libertad en su interacción con la inteligencia artificial. Esto se basa en la creencia de que los jóvenes están creciendo con inteligencia artificial y deben proteger su prosperidad al mismo tiempo que amplían las oportunidades de la tecnología.

Qué es la Comunidad

Supporters

Apoyar estos pasos indica que la tecnología de inteligencia artificial es fundamental para garantizar la seguridad de los jóvenes con su rápida prevalencia. Sostienen que los controles parentales y los filtros de contenido adaptados a la edad protegen a los niños de los riesgos potenciales, así como la inteligencia artificial se beneficiará de los beneficios ofrecidos para la capacitación y el desarrollo. Las colaboraciones de expertos contribuyen al desarrollo de esas plataformas más éticas y responsables.

Noticias

Los críticos dicen que tales controles pueden restringir la libertad digital de los jóvenes y reducir su capacidad de descubrir AI por sí mismos. Se piensa que los enfoques de protección excesiva impiden que los jóvenes desarrollen ideas críticas y conocimientos en línea de reconocimiento de riesgos. También preocupa que los sistemas de pronóstico de edad y los filtros de contenido siempre puedan funcionar perfectamente y llevar a clasificaciones erróneas.

Preguntas frecuentes

OpenAI ¿Qué es el límite de edad para los usuarios jóvenes?

OpenAI apunta 13 años y más usuarios para ChatGPT. Se elaboraron nuevas protecciones y principios específicamente para los usuarios de 13 a 17 años.

¿Cómo pueden los padres rastrear el uso del niño ChatGPT?

Los padres pueden usar la reducción de contenido sensible, la detección silenciosa del reloj y algunas características como conectar las cuentas de ChatGPT de sus hijos a sus cuentas. Sin embargo, los niños no pueden ver directamente su contenido del discurso.

¿Cómo ChatGPT protege a los jóvenes en casos autocréditos?

El modelo aplica medidas de seguridad más poderosas cuando detecta el riesgo de dañarse y fue diseñado para guiar a los jóvenes a los recursos de crisis en situaciones de emergencia.

¿Cuáles son los Recursos de Inteligencia Artificial?

Estas fuentes incluyen guías amigables con la familia que explican cómo funcionan los modelos AI, por qué pueden cometer errores y consejos para apoyar el uso saludable y responsable de los padres.

Los esfuerzos de OpenAI para hacer ChatGPT más seguro para los usuarios jóvenes, lo que hace más importante con el creciente papel de la inteligencia artificial en la sociedad. La empresa muestra el compromiso de proteger el bienestar mientras toma estos pasos de las oportunidades tecnológicas de las generaciones jóvenes. Este enfoque destaca como un componente crítico del desarrollo de la inteligencia artificial responsable de la era digital.