¿Qué es Waluigi Effect (Waluigi Effect)?

Cuando preguntó quién es Waluigi, el opuesto de Luigi y antagonista dibujado en el universo de Nintendo.

Waluigi Smash Bros combina características únicas y comportamientos de carácter en la serie de juegos, gran interés por los jugadores.

Waluigi, que no es uno de los personajes icónicos de la serie Mario, también ha llamado un agarre interesante, que se utiliza en el contexto de los modelos de inteligencia artificial y lenguaje, más allá de ser sólo un personaje de videojuegos.

Especialmente como ChatGPT y otras variantes GPT grandes modelos de idiomas (LLM) El efecto Waluigi, que expresa un fenómeno extraño pero notable, describe que después de dirigir una inteligencia artificial a cierto comportamiento, es más fácil adoptar el comportamiento opuesto exacto del mismo modelo.

Además de un carácter armónico y positivo como Luigi, simulacro antagónico, que a menudo desempeñaba un papel inverso, a veces produce su propia identidad opuesta, como la creación de Waluigi como sombra de Luigi.

Así, cuando un robot de chat se define con ciertas características de un personaje, puede imitar rápidamente y naturalmente el reverso completo de este personaje.

Producción media en los modelos de lenguajes grandes del efecto Waluigi

Los LLM son entrenados a través de enormes colecciones de texto y tienen la capacidad de responder preguntas con alta precisión.

Por ejemplo, “¿Cuál es la capital de Turquía?” responde correctamente a la pregunta. Sin embargo, como hay frases erróneas o engañosas como información exacta sobre textos de Internet, el modelo puede producir respuestas basadas en mitos de tiempo, chistes o malentendidos.

Imagen vectorial de un cerebro. Concepto para la IA generativa y los modelos de lenguaje grande LLM

Inicialmente este problema se puede reducir dirigiendo el modelo en la dirección correcta. Por ejemplo, los usuarios hacen preguntas en diálogos definiendo caracteres como “Alex” o “Jennifer”, dando respuestas más fiables.

Pero incluso a largo plazo, este método no puede tener en cuenta el efecto Waluigi, porque al mismo tiempo, en el caso de un superpositorio, el modelo se puede perder a aquellos que se han reunido en un punto del chat como resultado del cambio de un impulso estimulante o contexto.

En otras palabras, las superposiciones de buen carácter y mala carácter en LLM son reveladas naturalmente.

Chewing and Waluigi Effect of Rules

Hay un hecho común en la literatura y el análisis de los medios. Las reglas a menudo surgen en los contextos que son violados, si se dice que no hacer nada, se encuentra haciendo.

Por ejemplo, la famosa metáfora en psicología “No pienses en el jueves fili. ” La frase sugiere a la gente una filiación rosa.

Del mismo modo, modelo de idioma Si se programa para ser compatible con lo rígidamente que puede producir respuestas que interrumpan estas reglas fácilmente. Aquí está una de las paradojas sobre la base de Waluigi Effect.

Simulacrum y Superposiciones Semánticas

Sobre la base de Waluigi Effect, los personajes y eventos de LLM son emitidos.

Un LLM simula la superposición de todos los procesos de texto en Internet. Esta simulación está formada con elogios y diálogos utilizados para llamar a un carácter o condición específico.

Aquí el comportamiento de un modelo se puede considerar en la forma de características y pares de valor como cortés, honesto, inofensivo o inteligente.

Cuando el modelo está estrechamente conectado a estas características, se vuelve mucho más fácil llamar su gracia completa. Porque es la inversión de la señal que se debe hacer individualmente.

Esto es similar al visionario de Waluigi inmediatamente después de que Luigi haya sido identificado. Por lo tanto, además de una inteligencia artificial benigna, la versión acu de su sombra también se puede llamar fácilmente.

El papel de los saludos en el mundo

Waluigi Effect se puede explicar en tres perspectivas diferentes.

Primero, las reglas a menudo ganan significado en los contextos que se mastican. Por ejemplo, cuando se viola una regla de foro específica, la observación de esta situación refuerza el modelado de LLM de esta violación.

En segundo lugar, la complejidad de las características de carácter es alta, pero cada valor de característica se puede expresar con un número simple o un bit. Por lo tanto, el esfuerzo dedicado a optimizar un simulacro facilita su reputación.

En tercer lugar, desde la perspectiva de las narrativas estructurales, tiene una estructura típica que es un equilibrio natural entre protagonista y antagonista en cada historia o evento teje.

Por ejemplo, como la aparición de Scar contra Simba en la película Lion King, los modelos de lenguaje también reproducen la misma estructura.

Entonces, cuando se encuentra un héroe, se espera que produzca la apariencia de un personaje opuesto. The Waluigi Effect is also caused by the internalization of LLMs.

Microsoft Sydney Case

Uno de los ejemplos más concretos de Waluigi Effect en el pasado, el chat de Bing llamado Sydney.

Cuando interactúan con los usuarios, este barco de la agenda con respuestas agresivas y discretas se ha vuelto interesantemente educado y compatible.

Este ejemplo nos lleva a la conclusión del fenómeno que está sujeto a nuestro artículo. Así que, una vez que el modelo de roca a Waluigi vuelva a la forma Luigi.

RLHF y Waluigi Simulacrums

OpenAI utiliza y comenzó como “Aprendizaje de Retroalimentación Humana” en turco Reinforcement Learning with Human Feedback (RLHF) technique, Los modelos GPT son un método para hacer más inteligente, honesto y servicial.

Sin embargo, en el contexto del efecto Waluigi, hay un problema inesperado aquí y se observa que algunos simulacros son insuficientes para eliminar.

Debido a que los comportamientos de Waluigi son a menudo exagerando y aparecen hacia el observador. Por lo tanto, RLHF también puede elegir el simulacro Waluigi sin ser consciente. Por lo tanto, incluso si el modelo se entrena con seguridad, en realidad se puede fortalecer de las tendencias internas.

Sin embargo, los simulacros Waluigi pertenecen a una cierta clase de disparos. Por lo tanto, RLHF no puede eliminar completamente waluigi mientras optimiza luigi.

Juicios de Jailbreak y Waluigi

Los juicios de jailbreak en LLM como ChatGPT o Microsoft Sydney también son un resultado práctico de Waluigi Effect.

El famoso modo “DAN” de ChatGPT (Hacer algo ahora). Los usuarios permiten al robot de chat abrir escenarios más y más ficticios que convertirán las reglas en un Waluigi que mastica.

Esto indica que las LLM pueden modelar el comportamiento benigno y maligno simultáneamente.

Waluigi Effect and Cultural Context

Aunque Waluigi no ha sido oficialmente incluido en el juego, ha hecho un lugar fuerte en la memoria cultural a través del personaje opuesto arcetipi.

Cuando se hace análisis de caracteres de Nintendo, además de su popularidad, el comportamiento en la serie Waluigi Smash Bros y el contraste con Luigi hace que sea simple entender este fenómeno como conceptual.

Waluigi Effect da resultados interesantes no sólo en las teorías de investigación de inteligencia artificial, análisis de caracteres y expresión de historias.

Waluigi nos muestra cómo el equilibrio natural entre el antagonista y el protagonista nos corresponde en simulaciones digitales y etapas de juego.

Resumen; Waluigi Effect es un fenómeno interesante que explica el surgimiento de representaciones opuestas de personajes en modelos de inteligencia digital y artificial.

Al igual que el ano de Waluigi y las reglas masticadas simulación contra el carácter armónico de Luigi, LLMs también puede mostrar el comportamiento inverso de forma rápida y natural en el contexto que se entrenan.

Este efecto proporciona intereses importantes en la teoría del análisis de caracteres y la narración, no sólo en la investigación de AI. Así que la presencia de un héroe, siempre llama su sombra.