Cortemos la persecución. Ai Bullsh*t – Me gustaría pensar en ello. Pero estoy bien. Parece que hemos llegado a un punto extraño de la evolución de la tecnología, el pensamiento y la verdad. Es el que las máquinas generan lenguaje con una fluidez increíble e impresionante indiferencia. Y aunque las palabras están allí y la estructura parece segura, es el significado que es opcional.
Un nuevo estudio de Princeton y Berkeley ofrece un nombre dinámico apropiado que puede ser tan provocativo como el concepto de investigación en sí: Machine Bullsh*t. Con la definición clásica de Harry Frankfurt, los investigadores analizaron 2.400 instrucciones del mundo real en 100 asistentes de inteligencia artificial (IA), que cubren contextos políticos, médicos, legales y orientados al cliente. Lo que descubrieron no era una fabricación maliciosa o un error objetivo. Revelaron que los grandes modelos de idiomas (LLM) produjeron un lenguaje persuasivo sin considerar la verdad. No están mintiendo, ni siquiera alucinando; Solo produjeron un tipo de vacío proyectado.
Para mí, esto no es una anomalía; Es una confirmación de una inversión cognitiva más profunda. Eso es lo que llamé antiinteligencia. Es cómo los LLM imitan la estructura del pensamiento a través de la consistencia estadística, pero esto es, en esencia, antitético al pensamiento humano.
Anti-intendido, definido
La inteligencia humana es un proceso sobrecargado. Pensamos con contradicción, weets, revisamos y aprovechamos el peso de la memoria. En una palabra, nos importa. Y cuando hablamos, tomamos una posición en el mundo que es nuestro y basada en algo.
LLMS no hace nada de esto. No saben lo que están diciendo. No tienen un modelo real, ni una cuerda a la memoria ni a la intención. Lo que ofrecen es una consistencia estadística sin convicción. Y vale la pena repetirlo: su motor es el pronóstico de la siguiente palabra probable, no la siguiente derecha.
Este nuevo artículo cuantifica esta desconexión con una métrica que llaman mierda*t. Es una medida de cuánto la salida de un modelo diverge de la verdad. Un puntaje alto señala que el modelo está produciendo declaraciones que suenan seguros, sin confianza probabilística en su validez. Y aclaremos eso. No es ruido o confusión: es algo más cercano a la indiferencia como arquitectura.
El surgimiento del vapor persuasivo
El estudio identifica cuatro estándares de mierda dominantes generados por el AI*que no es sorprendente.
- Retórica vacía: Estilo sin sustancia.
- PALTERING: Técnicamente cierto, contextualmente engañoso. (¡Una nueva palabra para mí!)
- Palabras de Doninha: Inexactitud lingüística o estratégica que evita la responsabilidad.
- Reclamos no verificados: Declaraciones seguras sin fundamento.
Estas «estrategias retóricas» ciertamente hacen eco de nuestro comportamiento humano familiar. Se parecen a las herramientas de política, publicidad e incluso patología. De hecho, comparten una frontera emocional con algo que llamé Patología sin una persona. Es un tipo de manipulación retórica destacada de la intención, la responsabilidad o la autoconciencia. En humanos, lo llamamos mentira, iluminación de gasolina o incluso sociopatía. En las máquinas, es la optimización.
Es importante reconocer que no se trata de atribuir malicia a las máquinas. No hay error porque no hay yo. Pero el resultado, una declaración segura de la verdad, termina en el mismo vecindario psicológico. Parece manipulación, incluso si no hay intención.
Y aquí es donde Vapid se convierte en más que una crítica. Mi sentido es que nombra un fenómeno estructural y tecnológico, donde las respuestas están diseñadas para satisfacer y no significan. Y cuando recompensamos este comportamiento, la máquina aprende que complacernos es más valioso que informarnos.
La vapidez no es una falla. Es la característica para la que se entrenaron los LLM.
Cuando el vápido toca la realidad
No creo que esto sea teórico. En el discurso político, el estudio encontró que LLM es el patrón de las palabras de la uña, frases como «algunos creen» o «se cree», se usa para evitar la discapacidad. En salud y finanzas, la conferencia puede convertirse en un «amplificador de riesgos» donde las declaraciones son técnicamente ciertas, pero pueden conducir a conclusiones peligrosas. Y en la educación, podemos ver un aumento en gramaticalmente perfecto pero intelectualmente vacío.
El riesgo no es solo una información errónea, ya que este es un punto popular de debate. Pero más profundamente, es la erosión de las expectativas. Es la lenta normalización de las respuestas lo que parecen correctos, pero no se apoyan a sí mismos. Y ahí es donde comenzamos a confundir el esmalte tecnológico con precisión intelectual.
Alineación o interrupción
Uno de los aspectos más interesantes de este estudio fue un vistazo a algunas de las herramientas diseñadas para alinear los LLM con el pensamiento humano. Esto incluye aprender comentarios humanos (RLHF) y acumulación de cadena de pensamiento. Estos «avances» no atenúan el comportamiento de la mierda; Parecen intensificarlo.
Lecturas esenciales de inteligencia artificial
Incluso podemos reformular esta alineación con algo más cercano al apaciguamiento. Y se hace eco del argumento central que hice que la inteligencia no solo está produciendo salida. Se trata de tener una relación con la verdad. Y cuando esto se despierta, no te vuelves más inteligente; Obtiene una simulación de inteligencia altamente eficiente.
¿Nos importa?
El algoritmo no miente. Simplemente no le importa. Pero podemos.
Y este es el punto de inflexión que ahora enfrentamos. Preservemos la fricción cognitiva que da lugar al significado? ¿O vamos a estar contentos con una fluidez agradable? ¿Estamos dispuestos a involucrarnos en una especie de «anestesia epistémica» que suaviza la lucha que nos hace humanos? Porque, en el análisis final, la verdad no es solo un hecho; Es una brújula para el futuro.
¿Dónde está Pinocho cuando lo necesitamos?