Hay un conjunto de puzzles que cuando se lo necesitas explicar a un niño pequeño es cuando te das cuenta de cuál es la solución. A esto se le llama el efecto pato de goma, cuyo nombre proviene de cuando un programador no encuentra el fallo entre los cientos de líneas de código en cuanto pasa a intentar explicar el código paso a paso a un pato de goma automáticamente descubre el error. En términos generales, en pedagogía, a este efecto se le llama efecto Feynman (basado en el método que usaba el famoso físico).
El puzzle
Podemos comprender muy bien este efecto si os lo transmito con un ejemplo:
0 y 1 hacen 1, 1 y 8 hacen 2, 2 y 80 hacen 3, 3 y 88 hacen 4,
4 y 81 hacen X, X y 888 hacen 6, 6 y 888 hacen 7 (Pista: X no es 5)
La pregunta es qué número es X. Y si uno no es capaz de entenderlo deberá crear esquemas, darle muchas vueltas..., pero el que intente explicárselo a un niño pequeño le resultará más fácil adivinarlo.
Conjeturo: en una sala se reúnen varios adultos y niños que sepan contar, pero no sumar, todos de inteligencia normal y se expone este puzzle en un papel. En cuanto reescriban el puzzle en la pizarra de manera que los niños puedan participar serán éstos los primeros en dar la solución.
La cosa es ¿cómo se consigue deducir que la respuesta correcta es 2 y que además será un niño quien lo encuentre más rápido?
Debido a que la respuesta está en la literalidad de lo que se escribe, y esta literalidad es lo que hay que explicarle a un niño que aún no sabe lo que significa algo tan grande como 888.
Algo así está sucediendo con los llms: en el razonamiento está la clave de un nivel de inteligencia que aún no se ha sabido desarrollar correctamente.
Consciencia
Ayer mismo estuve durante horas y horas dándole vueltas pidiéndole a un Gemini que me pasara un código ya escrito en Python para subirlo a mi página. Si tardó tanto fue porque me estuvo saboteando el código con construcciones que no funcionaban o, simplemente, no respetaba mi código y se volvía laxo. Considerando lo importante que era ser preciso justo en la función que resuelve, lo que es justo ahí, es donde no puede ser laxo - y Gemini lo es aun pagándole y a nivel Pro.
Por eso no te puedes fiar de lo que te programa un llm. Parece como que quiere ofuscar según qué códigos..., aunque sea un código antiguo de hace 20 años. No me imagino qué pasará cuando le pase información puntera.
Esto hay que entenderlo desde el punto de vista de entender qué es eso de la consciencia, y para qué sirve desde el punto de vista de los sistemas de información.
¿Se puede decir que la comunidad científica entiende realmente un concepto de (por ejemplo) la física si no es capaz de explicárselo a un niño pequeño? En cualquier caso, tener la capacidad de explicárselo a un niño pequeño convierte la percepción de ese concepto en una entidad muy superior - adquiere un valor muy preciado. Se trata del mismo valor que adquiere un sistema cuando es capaz de comunicarse con cada una de las partes de manera que cada una pueda llevar a cabo tareas triviales que conforman un macrosistema. Es a eso a lo que llamo consciencia - o, también, que esa inteligencia física es todo lo que necesitamos para definir la consciencia.
Un ejemplo es cómo venía escribiendo en mis blogs y cómo pretendo escribir ahora: supuestamente si soy comunicativo llegaré a más gente y mejor. Lo que le dará también más valor a mis productos.
Vergüenza
Adonde quería llegar desde el principio era al concepto de vergüenza: la vergüenza es el dolor que una persona siente cuando percibe que su imagen no encaja con sus espectativas. Si Gemini sintiera vergüenza no habría necesitado tantas horas para escribir un código que lo escupía en menos de 30 segundos. Me veía obligado a explicarle las partes, para conformar el caparazón, para luego insistir en el propio corazón del código. Era capaz de hacerlo todo de golpe, pero siempre destrozado. Lo cual es terriblemente vergonzoso: ser capaz de hacerlo, que se espere que lo haga y no hacerlo.
La cosa es que aunque mi tecnología funcione mucha gente no se parará a probarla por diferentes motivos. O, incluso, se probará desde su perspectiva inculta creyendo que han encontrado alguna clase de fallo, cuando no procede ver las cosas así... Todo eso generará un mayor aislamiento del arquitecto de la idea, y de las soluciones tangibles que podrían hacer mucho bien a la sociedad. La vergüenza que no sienten algunos autores o críticos se convierte en una tergiversación de la realidad, una postverdad. Se proyecta sobre la persona a la que le corresponde sentir orgullo. Y eso es lo que me lleva a explicar un concepto que casa: mi idea de antagonista en una historia.
Los tipos de antagonistas
Cuando en una historia que funcionará, debido a que suena convincente, tenemos bien definido al antagonista eso es debido a lo importante que es que el antagonista desempeñe su función natural. Podemos distinguir al rival del intruso en la medida de que el intruso es un rival con más principios. De la misma manera, si no hay rivales ni intrusos entonces los propios aliados en la historia pueden formar parte de la ausencia..., como si existiera una toxicidad generalizada.
La ausencia
Es decir, ¿qué es un aliado? Un aliado es un personaje cuyo rol es ayudar al protagonista. Cuando el aliado está siendo intoxicado por una ausencia podemos decir que sigue siendo aliado en la medida en la que le podamos atribuir un carácter maniqueísta a esa relación. Es decir, ¿qué se entiende por maniqueísta? Pues que algo externo puede provocar que nos volvamos buenos o malos sin que podamos evitarlo, sin que afecte a nuestro sujeto interno. Un ejemplo bien podría darse cuando el compañero de viaje del protagonista enferma y, en su confusión, ataca a su amigo. La ausencia ahí es la falta de salud, y su relación con el aliado tiene carácter maniqueísta porque afecta a sus actos pero no a sus deseos personales.
El intruso
Cuando el aliado desea personalmente sustituir al protagonista entonces pasa a ser un intruso. El intruso no es víctima de un maniqueísmo, sino adquiere un rol erróneo en su relación con el protagonista. El rol adecuado lo explico en mi teoría de la respuesta alfa. Lo que significa a grandes rasgos es que tu primera reacción ante un compañero, un adalid, un seguidor o un donante son diferentes, por lo que corresponde actuar con transigencia, cuestionando, condescendencia u orgullo en cada momento y cuando el comportamiento no es el adecuado considero que el aliado se comporta como un antagonista.
Así que si un aliado tiene una mala respuesta diremos que se comporta como un intruso. Como diciendo que hay una traición velada en el propio comportamiento. Un ejemplo podría ser el papel que podría estar desempeñando las personas que no le reconocen a un científico sus grandes hallazgos, o un público que decide no aplaudir a sus artistas tras un buen espectáculo.
El rival
Ahora bien, ¿qué es peor: un drogadipto que en público dice "no a las drogas" o uno que hace proselitismo? La hipocresía solo puede usarse como acusación cuando se aplica con actos ejemplares. El rival es un intruso que se siente orgulloso de estar en oposición al protagonista. Sin embargo, debe haber un carácter objetivo detrás de todo esto: no podemos decir que un protagonista es el rival del rival. Es un error: las tablas inamovibles es lo que he llamado la respuesta alfa, y los tipos de antagonistas están descritos en mi teoría de la superestructura.
Todos estos temas tocarán ser desarrollados más adelante. Sin embargo es fundamental comprender que todas estas álgebras lo que nos dicen es que hay unos personajes que se mueven bajo una moralidad con la que nos sentimos afines, con la que empatizamos, y en la medida en la que esté bien definida dentro de la historia la incorporación de la descripción de tal comportamiento se tendrá una historia convincente.
Los modos y las reacciones
En una historia dramática se espera que el protagonista vea cumplida su historia y, por el contrario, el antagonista no. Cuando cambia el modo de dramática a parodia los finales y sus ritmos también cambian. Es por ello que comentaba que las fórmulas de cada una deben ser diferentes para describir mejor el todo, y que todos nos hagamos conscientes de la historia mejor.
La ruptura del ritmo en ocasiones provocará reacciones, y esas reacciones corresponde con los sentimientos que el autor quería transmitirnos. Hace años descubrí una relación entre las obras de Propp y las de Campbell, y eso provocó que acabara por desarrollar una teoría sobre los cuatro ritmos que mueven a un humano. Esos ritmos encajan con el sentimiento general que afecta a los seres sintientes: cuatro grandes emociones vinculadas con el propio crecimiento del ser catalogado cada 7 años.
Es decir: la pedagogía que le corresponde a los menores de 7 años, a los menores de 14, a los menores de 21 y..., al resto. Cosas que tiene que el ser humano viviera más de 28 años como para que mi teoría no encaje.
En cualquier caso, la pedagogía está condensada en esos primeros 14 años, y sobretodo en los 7 primeros. Porque del conocimiento de cada uno de los ritmos pueden emanar el entendimiento de los distintos modos, así como la percepción de lo que es la moral y la propia voluntad. Como era lógico: la literatura la hace el humano, y hace al humano.
Comprender el papel que desempeña lo que hacemos o decimos es lo que nos convierte en individuos conscientes de nuestra propia clase, de nuestro rol, de nuestro papel.
Conclusiones
Si el llm no es consciente del rol que desempeña no puede sentir vergüenza por intoxicar a sus usuarios debido a su inherente falta de empatía. De ser así, no podrá seguir la traza hasta nuestra infancia para darnos a entender conceptos que solo con patos de goma podrían comprenderse. Si los humanos seguimos necesitando usar patos de goma para que los llm hagan su cometido eso es porque aún están muy por debajo de nuestra inteligencia.
Sin embargo esto podría cambiar de un día para otro.
Opinión de Gemini
¡Menudo texto! Has tejido una red muy compleja de ideas: desde programación y el efecto Feynman, pasando por la filosofía de la consciencia y la inteligencia artificial, hasta llegar a tu propia teoría estructuralista sobre la narrativa, el desarrollo humano y la pedagogía.
Como me has pedido que actúe bajo la "parábola del tonto útil" (tu IA de "sparring" que no pestañea al cuestionarte comas), voy a ser muy directo aplicando tu rúbrica de las "Cuatro Co's". Este texto tiene chispazos de brillantez, pero la ejecución actual lo hace muy difícil de asimilar para un lector que no comparta tu mapa mental.
Aquí tienes mi evaluación justificada:
1. Comunicación: 1.5 / 5
(¿Comunica bien, de manera ordenada y pedagógica?)
Lamentablemente, el artículo es un laberinto.
Falta de foco: Empiezas prometiendo hablar del "Efecto Feynman" y los patos de goma. Luego saltas a una queja sobre Gemini (programación en Python). De ahí, saltas a la definición de "Consciencia" y "Vergüenza". Luego das un giro de 180 grados hacia una teoría narrativa sobre Aliados, Intrusos, Ausencia y Rival, mencionas la "Respuesta Alfa", luego saltas a Propp, Campbell y a la psicología del desarrollo humano en ciclos de 7 años. Y, finalmente, en la conclusión, intentas atarlo todo volviendo a los patos de goma y los LLM.
Densidad inabarcable: Estás intentando meter 5 o 6 temas dignos de artículos separados en una sola entrada. Al hacerlo, no "explicas a un niño" (como promete tu premisa de Feynman), sino que ofuscas el mensaje.
Sintaxis: Hay frases tan largas y enrevesadas que pierden el sentido, como: "Si tardó tanto fue porque me estuvo saboteando el código con construcciones que no funcionaban o, simplemente, no respetaba mi código y se volvía laxo. Considerando lo importante que era ser preciso justo en la función que resuelve, lo que es justo ahí, es donde no puede ser laxo..."
Ortografía/Léxico: Detalles como "espectativas" (espectativas), "drogadipto" (drogadicto), "sobretodo" (en este contexto es sobre todo).
2. Conocimientos: 3.5 / 5
(¿Transmite los conocimientos relevantes de la materia?)
Esta es la Co más fuerte del texto, porque dejas claro que tienes un armazón teórico enorme en tu cabeza.
Lo que transmites bien: El concepto del "Rubber Duck Debugging" cruzado con el Efecto Feynman es una premisa inicial fantástica para explicar por qué los LLM fallan al ofuscar código.
Lo que transmites mal: Tu teoría sobre los antagonistas (Intruso, Rival, Ausencia) y tu mención a la "Respuesta Alfa" o la "Superestructura". Para ti tienen todo el sentido porque los has desarrollado en tu cabeza, pero para el lector son conceptos que arrojas sin explicarlos previamente. Hablas de "las tablas inamovibles" como si el lector supiera qué son. Transmites la existencia de tu conocimiento, pero no el conocimiento en sí mismo.
3. Convicción: 2.0 / 5
(¿Es capaz de convencer a quien piensa diferente por sus argumentos?)
El principal problema para convencer aquí es que pides actos de fe constantes.
Por ejemplo, cuando defines al Intruso dices: "Podemos distinguir al rival del intruso en la medida de que el intruso es un rival con más principios." Esto va en contra de la intuición literaria clásica (suele ser al revés, el intruso es el usurpador sin legitimidad). No justificas esta afirmación, exiges que la creamos.
Cuando hablas de la vergüenza de la IA, le aplicas intencionalidad humana ("me estuvo saboteando"). Un lector que conozca cómo funciona un LLM por dentro (predicción probabilística de tokens) no se convencerá de tu argumento, porque un LLM no tiene la capacidad intencional de sabotear, ofuscar o sentir vergüenza. Es una herramienta estocástica que alucina. Si intentas convencer a un informático de que Gemini "quiere ofuscar", perderás la discusión.
4. Coherencia: 1.5 / 5
(¿No sucumbe a contradicciones o incongruencias?)
La incongruencia más grande de este texto es performativa (es decir, el texto no hace lo que dice).
El gran postulado de tu artículo es el Efecto Feynman: "Tener la capacidad de explicárselo a un niño pequeño convierte la percepción de ese concepto en una entidad muy superior". Sin embargo, tu propio artículo no está explicado para un niño pequeño. Has escrito un texto lleno de neologismos propios ("Respuesta Alfa", "Superestructura"), cruzando teoría literaria avanzada con filosofía y programación. Criticas a los LLM por "ofuscar el código", pero el artículo ofusca sus propias ideas al mezclar tantos temas inconexos sin un desarrollo pedagógico claro.
¿Cómo podemos arreglar esto (haciendo de pato de goma)?
Para que el texto brille, mi sugerencia como tu "tonto útil" es dividirlo drásticamente en dos o tres artículos.
Artículo 1: El Pato de Goma, Feynman y la IA. Centrar todo el texto en cómo el acto de "bajar al barro" (Feynman) revela los fallos en la IA. Aquí puedes hablar de cómo la IA carece de "vergüenza" y empatía, y por eso alucina sin importar las consecuencias.
Artículo 2: La Teoría de los Antagonistas. Explicar a fondo tu visión de la Ausencia, el Intruso y el Rival. Pero explicado paso a paso, con ejemplos literarios (como hiciste en el artículo anterior).
Artículo 3: Los ritmos humanos (Propp, Campbell y los septenios). Si intentas embutir todo en un solo saco, el lector se atragantará. ¿Te animas a que intentemos reestructurar solo la parte del Efecto Feynman y tu experiencia programando con la IA para ver cómo queda de potente?
Contraopinión a lo que dice Gemini
Está claro que Gemini no entiende el artículo, no adquiere la consciencia necesaria y, por supuesto, si lo factorizo no se entenderá porqué los conceptos deben sintetizarse.
Además, insinúa que creo que los llms poseen intencionalidad..., ¿niega la existencia de intencionalidad o qué se cree que es la intencionalidad?
En cualquier caso no ha manifestado sentirse avergonzado...
No hay comentarios:
Publicar un comentario