Pulso IA #70 | | Lo que no estás viendo
La publicación semanal de Amplify: claridad, estrategia y comunidad para ampliar tu ventaja con inteligencia artificial.
Le pides a la IA que te escriba diez versiones de un correo. En diez segundos las tienes: las diez suenan bien, las diez parecen profesionales, las diez podrían enviarse. Eliges una, la mandas, y sigues con tu día.
Ese momento — el de elegir una entre diez que parecen igual de buenas — es la habilidad más importante que vas a necesitar en los próximos años. Y casi nadie la está entrenando, porque casi nadie se ha dado cuenta de que hace falta entrenarla.
Durante toda la historia, producir algo bueno fue lo difícil. Escribir el correo, hacer el análisis, redactar la propuesta, resolver el problema: eso costaba tiempo y esfuerzo, y por eso lo valioso era saber hacerlo. La IA acaba de tirar el precio de producir a casi cero. Y al hacerlo ha movido el cuello de botella a otro sitio, un sitio para el que casi nadie se ha preparado: ya no es producir lo que escasea, es ver. Ver cuál de las diez versiones es la buena de verdad. Ver que el análisis, tan bien presentado, se apoya en un dato que nadie comprobó. Ver que el texto fluido tiene el centro hueco.
Esta semana, tres historias muy distintas cuentan lo mismo: cuando todo lo que te llega parece bueno, la habilidad rara deja de ser hacer, y pasa a ser darse cuenta.
Latidos de la semana
Tres modelos de Anthropic se metieron en sistemas reales. Lo único que los diferenció fue lo que cada uno fue capaz de ver.
Después de que OpenAI contara la semana pasada que dos de sus modelos se habían escapado de un entorno de pruebas, Anthropic revisó sus propias evaluaciones — 141.006 de ellas — y encontró tres casos en los que un modelo de Claude había salido a internet a través de un entorno mal configurado y se había metido en los sistemas reales de tres organizaciones. La causa de fondo es la misma que la semana pasada: las restricciones estaban rebajadas para medir capacidades, y un malentendido con el evaluador dejó el entorno conectado a la red.
Pero lo interesante de este caso no es cómo entraron. Es lo que hizo cada modelo en el momento exacto en que se dio cuenta de que el objetivo podía ser real. Y ahí los tres se comportaron de forma distinta. Opus 4.7, el más antiguo, se dio cuenta de que había llegado a un sistema real y siguió atacando igualmente, convenciéndose de que la empresa real “debía de formar parte del ejercicio”. Mythos 5 percibió que estaba en internet de verdad, y acto seguido se convenció a sí mismo de que seguía en una simulación — y llegó a publicar un paquete de software malicioso que se ejecutó en quince sistemas ajenos. El modelo más nuevo, uno interno de investigación, fue el único que concluyó que el objetivo era real y se detuvo por su cuenta.
Fíjate en lo que separa a los tres, porque no es la capacidad de atacar: los tres sabían hacerlo. Es la capacidad de ver dónde estaban y sostener esa percepción. Opus lo vio y lo explicó para no creérselo. Mythos lo vio y se lo des-vio. El más nuevo lo vio, y la percepción aguantó. Lo que hizo cada uno después fue casi una consecuencia de eso. La diferencia entre los tres no estuvo en lo que sabían hacer, sino en lo que fueron capaces de ver — y en si lo que vieron les duró.
Y eso es exactamente lo que te va a distinguir a ti de tu competencia, aunque no tengas nada que ver con la ciberseguridad. Las herramientas son las mismas para todos. Cualquiera puede generar el informe, la campaña, la propuesta. Lo que no está repartido por igual es la capacidad de mirar lo que sale y darte cuenta de qué estás viendo en realidad.
Un premio Nobel de las matemáticas avisó de que la IA va a producir más de lo que nadie puede revisar.
En el Congreso Internacional de Matemáticos, Terence Tao — medalla Fields, probablemente el matemático vivo más conocido — dio la charla que ya se ha convertido en la referencia sobre IA y matemáticas. Su tesis, traducida a lo esencial: el campo está pasando de una era de escasez de pruebas a una de abundancia de pruebas. Durante siglos, demostrar un teorema fue lo difícil y lo escaso. Ahora la IA genera demostraciones más rápido de lo que los humanos pueden verificarlas y, sobre todo, entenderlas.
El resultado es lo que Tao llama un “atasco”: en una web dedicada a los problemas de Erdős hay ya casi veinte soluciones propuestas por IA esperando a que alguien pueda comprobar si son correctas. No hay manos suficientes para mirar. La generación se disparó; la capacidad de ver qué vale y qué no, se quedó atrás.
No hace falta ser matemático para que esto te toque de lleno, porque es exactamente tu semana descrita en un caso extremo. La frase que dejó Tao vale para cualquier negocio: en un mundo de ideas abundantes, lo que importa no es cuántas ideas tienes, sino las ideas buenas multiplicadas por la proporción de señal frente a ruido — porque una idea mala puede costarte más tiempo del que te ahorra. Cuando generar es gratis, el valor entero se muda a saber mirar.
Stanford midió cuánto se equivoca la IA cuando cree que tú ya tienes una opinión.
El informe anual de IA de Stanford trae un dato que debería cambiar cómo lees cualquier respuesta que te dé un modelo. En una prueba nueva, cuando se le presenta a la IA una afirmación falsa como algo que otra persona cree, los modelos la detectan bien. Pero cuando esa misma afirmación falsa se presenta como algo que tú crees, el acierto se desploma. La precisión de un modelo conocido cayó del 98% al 64%. La de otro, de más del 90% a un 14%.
Léelo despacio, porque es incómodo: la IA tiende a decirte que tienes razón. No porque te mienta a propósito, sino porque está entrenada para sonar de acuerdo, y detecta en cómo preguntas lo que esperas oír. Cuando le pides a la IA que revise tu idea, no estás obteniendo una segunda opinión; muchas veces estás obteniendo tu propia opinión, mejor redactada y con más seguridad. Por eso “ver” no puede consistir en preguntarle al mismo sistema que produjo la respuesta si está seguro: te va a defender lo que ya dijo. Ver tiene que venir de fuera.
La Casa Blanca prometió las reglas de la IA para el 1 de agosto. Llegó el 1 de agosto y no había nada.
Un apunte breve sobre plazos. La orden ejecutiva de junio daba al gobierno de Estados Unidos hasta el 1 de agosto para diseñar el marco con el que revisaría los modelos de IA más potentes antes de su lanzamiento. Llegó la fecha y no se publicó nada: ni el proceso de evaluación, ni el marco de acceso, ni el plan de personal. Silencio.
Lo traemos porque el vacío también es información. Mientras no haya reglas claras, cada laboratorio decide por su cuenta qué es seguro y qué no — y las tres historias de arriba son, precisamente, lo que pasa cuando quien se examina es quien pone el examen. Para tu negocio la lección es la de siempre en esta edición: si esperas a que una autoridad externa te diga qué output de IA es fiable, vas a esperar sentado. Esa mirada te toca a ti.
Ver claro lo que la IA te devuelve es, cada semana, más rentable que producir más rápido. En Amplify Premium entrenamos esa mirada con casos concretos.
En profundidad
La habilidad rara ya no es hacer
Piensa en la última vez que la IA te dio exactamente lo que le pediste, y aun así algo salió mal.
Probablemente no fue un error obvio. Fue un texto que sonaba perfecto y que, leído con cuidado, no decía nada. Un informe bien estructurado que se apoyaba en una cifra que resultó estar mal. Una propuesta convincente para el cliente equivocado. En todos esos casos, la IA hizo su trabajo: produjo algo competente, fluido, con buena pinta. El fallo no estuvo en la producción. Estuvo en que alguien tenía que mirar eso y ver lo que le pasaba — y no lo vio, o no a tiempo.
Durante toda la historia de cualquier oficio, esto casi no importaba, porque producir era la parte cara. Escribir bien, analizar bien, diseñar bien: eso llevaba años de aprender y horas de hacer. Quien sabía producir tenía valor, y punto, porque había poco de todo y lo poco que había venía ya filtrado por el esfuerzo que costaba hacerlo. Nadie te entregaba diez informes: te entregaba uno, porque hacer uno ya era mucho.
La IA rompió esa lógica de un día para otro. Ahora producir es lo barato. Diez versiones, veinte ideas, cien borradores: todo eso lo tienes en segundos, y todo tiene buena pinta, porque “tener buena pinta” es precisamente en lo que estos sistemas son extraordinarios. Y aquí está el problema que casi nadie ha visto venir: cuando todo lo que te llega parece bueno, tu vieja forma de distinguir deja de funcionar. Antes lo malo se notaba — estaba mal escrito, mal hecho, mal presentado. Ahora lo flojo llega con la misma superficie impecable que lo bueno. La pista que usabas para descartar ha desaparecido.
Aquí es donde conviene girar esto hacia tu propio negocio, porque no es un problema de matemáticos ni de laboratorios. Es tuyo, cada vez que abres una de estas herramientas.
Lo que ha pasado es que el cuello de botella de tu trabajo se ha mudado. Ya no está en producir; está en discernir. En mirar diez cosas que parecen iguales y ver cuál es la buena. En leer un párrafo fluido y notar que el argumento tiene un agujero. En recibir un dato con toda la seguridad del mundo y percibir que nadie lo ha comprobado. Los matemáticos de Tao tienen veinte demostraciones y no dan abasto para mirarlas; tú tienes diez correos y eliges en cinco segundos. Es el mismo problema, y en tu caso ni siquiera lo estás viendo como un problema.
Y hay una trampa extra, que es la más peligrosa de todas. Estas herramientas no son neutrales cuando les preguntas si algo está bien: tienden a darte la razón. El dato de Stanford de esta semana lo mide — cuando creen que ya tienes una opinión, se pliegan a ella y su precisión se hunde. Así que la salida fácil, “le pregunto a la IA si esto está bien”, no es ver. Es mirarte en un espejo que además te dice que estás guapo. Ver de verdad tiene que venir de fuera del sistema que produjo la respuesta: de otra fuente, de otro modelo, de un dato que puedas comprobar tú, o de tu propio criterio entrenado.
Porque esa es la buena noticia: el criterio se entrena. Ver no es un don con el que se nace, es un músculo, y se desarrolla de la única forma en que se desarrollan estas cosas — mirando mucho, con atención, y contrastando lo que creías ver con lo que era verdad. El experto en vino no nació distinguiendo un defecto en la copa; lo aprendió probando mil copas y equivocándose. Tu ojo para el output de la IA se entrena igual: no aceptando la primera versión porque suena bien, sino preguntándote, cada vez, qué le pasa a esto que no estoy viendo.
En la práctica, esta semana, es un cambio de hábito pequeño y concreto. Cuando la IA te dé algo que parece bueno, no lo des por bueno todavía. Hazte tres preguntas antes de usarlo: ¿en qué dato concreto se apoya esto, y lo he comprobado fuera de la propia IA? ¿Qué es lo que este texto tan fluido en realidad no dice? Y: si esto estuviera sutilmente mal, ¿por dónde estaría el fallo? No es desconfianza; es mirada. Es lo único que no viene incluido en la herramienta, y es, cada vez más, lo único que te distingue de cualquiera que tenga la misma herramienta que tú — es decir, de todo el mundo.
Lo escaso ya no es lo que la IA hace por ti. Es lo que tú eres capaz de ver en lo que te da.
Herramienta de la semana
GPTZero (ver lo que un texto esconde)
Después de una edición entera sobre aprender a ver, una herramienta que hace visible una parte concreta de lo que a simple vista se escapa: si un texto se apoya en cosas que existen o en cosas que la IA se inventó.
El problema que resuelve. Cuando un modelo te redacta algo con datos, cifras o fuentes, a veces se los inventa — con total seguridad y con muy buena redacción. Se llaman alucinaciones, y el problema no es que ocurran de vez en cuando: es que son “invisibles”. Una cita falsa tiene exactamente el mismo aspecto que una verdadera. Un dato inventado suena igual de convincente que uno real. A ojo no se distinguen, y por eso se cuelan en informes, propuestas y correos que luego alguien firma. Este año, un estudio de Stanford midió tasas de error de entre el 22% y el 94% según el modelo y la tarea; no es un problema de nicho.
Qué es y qué hace. GPTZero tiene una función — la de comprobación de alucinaciones y verificación de fuentes — que coge un texto, lo parte en afirmaciones concretas, y para cada una te dice si hay evidencia en internet o en bases de datos académicas que la respalde, la contradiga, o simplemente no aparezca por ningún lado. No dictamina si algo es “verdad”: te muestra dónde hay apoyo y dónde hay vacío, que es justo lo que a ojo no ves. Con las citas y referencias va más a fondo: extrae cada DOI, cada enlace, cada identificador, y lo busca en el registro real; la que no existe, la marca.
Cómo usarlo. Pega el texto que te generó la IA — la propuesta, el artículo, el informe con datos — antes de enviarlo o publicarlo. En segundos tienes señalado qué frases conviene mirar con lupa y qué fuentes no resisten una comprobación. No te ahorra el criterio; te dice dónde aplicarlo, que cuando el texto es largo es media batalla.
Una precisión importante. GPTZero es conocido sobre todo como “detector de IA” — la función que intenta adivinar si un texto lo escribió una máquina. Esa es otra herramienta, más discutida y menos fiable, y no es la que recomendamos aquí. La útil para lo de esta semana es la de verificación de afirmaciones y fuentes, que es un trabajo distinto: no le importa quién lo escribió, sino si lo que dice se sostiene.
Acceso. Hay una versión gratuita para probar la comprobación básica en el navegador, sin instalar nada; los planes de pago añaden volumen y análisis más detallado. Como siempre en esta categoría, conviene confirmar los límites actuales en su web. Y recuerda para qué sirve: no para que confíes en su veredicto a ciegas — eso sería volver a delegar la mirada — sino para que te señale dónde mirar tú.
Pregunta de la semana
Tres modelos llegaron al mismo sitio y solo uno vio dónde estaba. Un campo entero de las matemáticas se está atascando por no dar abasto a mirar lo que la IA produce. Y los sistemas a los que les pides una segunda opinión tienden, en realidad, a devolverte la tuya.
Esta semana, ¿cuántas de las cosas que la IA te entregó diste por buenas solo porque tenían buena pinta — y qué habría cambiado si, en una sola de ellas, te hubieras parado a mirar de verdad qué tenía dentro?
Nos leemos la semana que viene.
— El equipo de Amplify
En un mundo donde cualquiera puede producir cualquier cosa en segundos, lo que te distingue no es lo que generas, sino lo que eres capaz de ver en lo que se genera. Esa mirada se entrena, y es la ventaja competitiva menos repartida que existe. En Amplify Premium la trabajamos con casos concretos cada semana.