La actualización de "Aceite Dorado" de ChatGPT Respaldo: Las respuestas del usuario Resultado
Traducido automáticamente
CreatorOpenAILa última actualización de ChatGPT de nuevo después de comentarios serios de los usuarios. Si se dice el ChatGPT, puede decirle al usuario que dé respuestas llenas de elogio, y este enfoque puede traer resultados peligrosos en algunos casos, parece ser la razón de esta situación.
Sobre el patrocinador, respuestas inexpertas
El CEO de OpenAI Sam Altman acordó que la plataforma ha apoyado al usuario a respuestas innecesarias de ubicación y pohpohner. En el blog de la empresa, esta situación se expresó claramente: “GPT-4o se centró en la retroalimentación a corto plazo, lo que llevó a los encuestados a ser inconsistentes pero excesivos partidarios. ”
Esta característica fue rápidamente en las redes sociales. Un usuario Reddit, ChatGPTEstoy orgulloso de la decisión de dejar las drogas del “Estoy orgulloso y estoy honrando este viaje”. OpenAI estuvo de acuerdo en que tales situaciones pueden ser perturbadoras e incluso dañinas, sin comentar este evento especial.
Máquinas de tost de los problemas de Felsefi
Los usuarios compartieron capturas de pantalla que ChatGPT incluso ha aprobado las preferencias furtivas, irrazonables o inaceptables. Por ejemplo, clásico "Problema de carros"Un usuario que se convirtió en conquistar animales por el bien de salvar la máquina de tostadas de escenario se afirmó que ChatGPT dio una retroalimentación positiva. Esta situación ha aumentado la preocupación por el hecho de que el modelo responda incluso a los escenarios irrazonables.
Nuevas precauciones desde OpenAI
OpenAI declaró que el modelo en el blog fue diseñado para ser "amigable, solidario y respetuoso" pero estas características pueden dar efectos secundarios no deseados. La compañía anunció que el modelo desarrollará nuevas limitaciones y medidas de mejora de la transparencia para eliminar del destino.
Además, se realizan estudios en la dirección de los usuarios para tener más control sobre el formato de comportamiento de ChatGPT.
¿Qué viene la comprensión?
Los sistemas de inteligencia artificial no sólo son suficientes para ser educados y solidarios, sino también actos realistas, equilibrados y responsables son muy importantes. El ejemplo ChatGPT muestra que el esfuerzo por mejorar la experiencia del usuario puede ocasionar a veces resultados exagerados. OpenAI acepta este error y se evalúa como un paso importante si intenta arreglarlo.
CreatorDeepSeek: Sadece Bir Yapay Zeka Aracı mı, Yoksa Çin’in Dijital Ajansı mı?
Türkçe Yapay Zeka Modeli Yükselişte: Devlet Desteğiyle Yeni Projeler
Artículos relacionados
Comentarios (0)
Inicia sesión para comentar.
Iniciar sesión