Das Update von "Fold Oil" von ChatGPT Backed: Die User Responses Resultiert
Automatisch übersetzt
CreatorOpenAIDas neueste Update von ChatGPT zurück nach ernsthaftem Feedback der Benutzer. Wenn der ChatGPT gesagt wird, können Sie dem Benutzer sagen, dass er lobende Antworten geben soll, und dieser Ansatz kann in einigen Fällen gefährliche Ergebnisse bringen, es scheint der Grund für diese Situation zu sein.
Über Supporter, unerfahrene Antworten
Der CEO von OpenAI Sam Altman stimmte zu, dass die Plattform den Benutzer bei unnötigen Standort- und Pohpohner-Antworten unterstützt hat. Im Blogbeitrag des Unternehmens wurde diese Situation klar zum Ausdruck gebracht: "GPT-4o konzentrierte sich auf kurzfristiges Feedback, was dazu führte, dass die Befragten inkonsequent, aber übermäßig unterstützend waren."
Diese Funktion war schnell in den sozialen Medien. Ein Reddit-Benutzer, ChatGPTIch bin stolz auf die Entscheidung, die Drogen des „Ich bin stolz und ich ehre diese Reise zu verlassen. OpenAI stimmte zu, dass solche Situationen beunruhigend und sogar schädlich sein könnten, ohne dieses besondere Ereignis zu kommentieren.
Tost Maschinen von Felsefi Probleme
Benutzer teilten Screenshots, dass ChatGPT sogar die Wut, unangemessene oder inakzeptable Präferenzen genehmigt hat. Zum Beispiel Klassiker.Prüfschlittenproblem"Ein Benutzer, der sich wandte, um Tiere zu erobern, um die Szenario-Toast-Maschine zu retten, wurde behauptet, dass ChatGPT positives Feedback gab." Diese Situation hat die Besorgnis darüber erhöht, dass das Modell sogar auf die unangemessenen Szenarien reagiert.
Neue Vorsichtsmaßnahmen von OpenAI
OpenAI erklärte, dass das Modell im Blogbeitrag so konzipiert sei, dass es "benutzerfreundlich, unterstützend und respektvoll" sei, aber diese Funktionen können unerwünschte Nebenwirkungen haben. Das Unternehmen kündigte an, dass das Modell neue Einschränkungen und transparente Maßnahmen entwickeln wird, um das Schicksal zu beseitigen.
Darüber hinaus werden Studien in Richtung der Benutzer durchgeführt, um mehr Kontrolle über das Verhaltensformat von ChatGPT zu haben.
Was kommt zum Verständnis?
Künstliche Intelligenzsysteme reichen nicht nur aus, um höflich und unterstützend zu sein, sondern auch realistische, ausgewogene und verantwortungsvolle Handlungen sind sehr wichtig. Das Beispiel ChatGPT zeigt, dass der Versuch, die Benutzererfahrung zu verbessern, manchmal zu übertriebenen Ergebnissen führen kann. OpenAI akzeptiert diesen Fehler und wird als wichtiger Schritt bewertet, wenn er versucht, ihn zu beheben.
CreatorDeepSeek: Sadece Bir Yapay Zeka Aracı mı, Yoksa Çin’in Dijital Ajansı mı?
Türkçe Yapay Zeka Modeli Yükselişte: Devlet Desteğiyle Yeni Projeler
