Que la dependencia de la IA no te impida pensar

Después de veintiún años, cambio de coche. El viejo no se conecta a nada: arranca, anda, frena y se arregla en cualquier taller, mientras el nuevo va conectado a internet todo el rato. La marca sabe dónde está, cómo conduzco y cuánto freno; tengo una app en el móvil que me cuenta cosas de mi coche que no era consciente de que quería saber; y si tengo un accidente, alguien me hablará por los altavoces sin que yo haga nada.

Y me he dado cuenta de que una de las penas de perder el viejo es perder un coche que funciona solo, sin conectarse a ningún sitio.

Hace una semana os pedía que no dejarais que la IA os impidiera aprender. Hoy va de lo que pasa después: cuando te quitan la herramienta, o te la cambian o te la cobran.

El 112 habla por los altavoces y la marca escucha el resto

Antes de seguir, una precisión, porque si no esto parece el “todo lo conectado es malo” y no lo es, menos viniendo de alguien como yo que se dedica a la tecnología. La voz que me hablará si tengo un accidente es la del 112. Se llama eCall, es obligatoria en la Unión Europea para los modelos nuevos desde 2018, se activa sola si detecta un golpe, llama al 112 y manda la posición y poco más. Está ahí para salvar vidas, esa parte está bien, me gusta y es pública. Sin quererlo terminamos siempre hablando de lo público y lo privado.

Lo que no hace el 112 lo hace la marca de mi coche. Mozilla, la empresa del navegador Firefox, analizó en 2023 las políticas de privacidad de veinticinco marcas de coches, las suspendió a las veinticinco y dijo que era la peor categoría de productos que había analizado nunca. El 84% comparte tus datos con terceros y el 76% se reserva el derecho a venderlos. Nissan incluye en la lista hasta la “actividad sexual”, que no sé cómo la mide y casi prefiero no pensarlo. General Motors vendió durante años cómo conducían más de un millón de personas, frenazos, velocidad y posición, a dos empresas que se lo pasaban a las aseguradoras; la FTC lo paró en enero: cinco años sin vender, ninguna de estas empresas recibió ninguna multa por este tema.

Y luego podemos hablar de lo que nos pueden quitar, BMW cobraba en 2022 dieciocho dólares al mes por los asientos calefactables que ya venían puestos, y lo retiró al año siguiente cuando la gente se cabreó. En febrero de 2022, cuando en Estados Unidos apagaron la red 3G, un centenar de modelos de doce marcas perdieron de golpe el navegador, la app y hasta la llamada automática de emergencia, sin embargo nadie tuvo que hacer cambios en los coches. Por poner otro ejemplo, hay marcas de coches que ya te ofrecen suscripciones mensuales para “desbloquear” potencia del motor de tu coche.

Hay quien a esto lo llama tecnofeudalismo, pagas como dueño y te tratan como inquilino, y hay quien dice que es capitalismo de toda la vida. Lo dejo para otro día, porque da para un artículo entero. Hoy me quedo con lo que le pasa a tu cabeza, que es lo que me preocupa de verdad.

1784

Cuando digo que esto nos devuelve a antes de la Ilustración no estoy exagerando: estoy usando la definición. Kant escribió en 1784 que la Ilustración es “la salida del hombre de su autoculpable minoría de edad”, y que la minoría de edad es “la incapacidad de servirse de su propio entendimiento sin la guía de otro”. Y luego explica por qué es culpable: porque es cómoda.

“¡Es tan cómodo ser menor de edad! Si tengo un libro que piensa por mí, un director espiritual que reemplaza mi conciencia moral, un médico que me prescribe la dieta, etc., entonces no necesito esforzarme. Si puedo pagar, no tengo necesidad de pensar; otro asumirá por mí tan fastidiosa tarea.”

Imagina que fuera a propósito (una teoría loca)

Kant no se quedó ahí. En el párrafo siguiente habla de los tutores, “que tan bondadosamente han tomado sobre sí la tarea de supervisión”, y dice que se encargan de que dar el paso parezca difícil y peligroso: “después de haber entontecido a sus animales domésticos”, les enseñan el peligro de caminar solos. Y remata que el peligro no es tan grande, que aprenderían “después de unas cuantas caídas”.

Ahora imagina, y esto es una teoría mía, distópica y un poco loca, que a los dueños de la tecnología les conviniera justo eso. Que te acostumbres tanto a la IA que se te olvide lo que sabías hacer, o que no llegues a aprender lo que deberías estar aprendiendo. Pasa el tiempo, te quitan la herramienta, o te la cobran tan cara que ya no puedes pagarla, y resulta que nadie sabe nada, nadie sabe hacer nada y nadie es capaz de pensar por su cuenta. Y ahora diréis que eso es conspiranoico. Puede. Pero no hace falta que nadie lo planee: basta con que a nadie le convenga evitarlo. Los tutores de Kant tampoco conspiraban, lo hacían bondadosamente.

Lo que no es teoría es que esto ya pasó con otra herramienta, la escuela. La Segunda República se propuso que cualquiera pudiera estudiar, aunque fuera lo básico, aunque tuviera que ayudar en casa o trabajar el campo: trece mil maestros más en cuatro años y bibliotecas en casi siete mil pueblos. La dictadura que vino después apartó a uno de cada cuatro maestros. No es casualidad: quien manda sin que le voten prefiere gente que no lea. Hoy no hace falta prohibir nada, basta con que aprender cueste dinero. Quien no lo tiene, no aprende; quien no aprende acaba en los trabajos más duros, con menos tiempo para pensar en cómo vive y menos fuerzas para cambiarlo.

¿Nos quieren tontos para que no protestemos? No lo sé. Pero ya os pedí que siguiéramos protestando, y para protestar primero hay que entender qué te están haciendo.

Una sola fuente, si quieres envenenarla, ya sabes dónde está el pozo

Aquí está lo nuevo, y conviene no confundirlo con lo viejo. En una red social, con todo lo malo que tiene, veías diez fuentes con su nombre y elegías cuál creer. Con un asistente te llega una respuesta. Una. Con una sola voz, sin fuentes a la vista y con ese tono de neutralidad que ya escribí que es la forma más fina de colar una postura. La novedad no es que mienta más sino que solo tenemos una versión bastante creíble.

Ya conté aquí cómo se siembra internet de páginas que no lee nadie para que las lea la máquina. Lo general tiene nombre, LLM grooming, y un ejemplo documentado: una red rusa de 150 webs que publicó 3,6 millones de artículos en 2024 sin pretender que los leyera un humano. Su propio responsable lo dijo en voz alta en Moscú: “empujando estas narrativas rusas desde la perspectiva rusa, podemos cambiar la IA de todo el mundo”. Que lo consigan es otra cosa, y hay quien duda de los primeros estudios. Pero el mejor hasta ahora, con trescientas preguntas en cinco idiomas, el nuestro incluido, da el dato que importa: las fuentes estatales rusas aparecían en el 11% de las respuestas a preguntas neutras, en el 18% de las sesgadas y en el 24% de las maliciosas, justo lo que comentábamos hace una semana, depende de cómo de crítico seas en las preguntas/respuestas puedes obtener una información u otra.

Y aquí tengo que reconocer una grieta antes de que me la encontréis vosotros: yo defiendo que esto no puede quedar solo en manos de empresas privadas, que tienen que estar los gobiernos. Y el villano de este párrafo es un gobierno. No sé resolverlo, yo solo tengo opiniones, no soluciones.

Los que ya pasaron por esto

Hay dos oficios que llevan años con este problema y lo han resuelto de la forma menos épica posible: obligándose a practicar sin la herramienta.

En enero de 2013 la FAA, la agencia de aviación de Estados Unidos, publicó un aviso de dos páginas que empieza reconociendo un aumento de errores de manejo manual, y dice que el uso continuo de los sistemas automáticos “no refuerza el conocimiento ni las destrezas del piloto en el vuelo manual” y “podría llevar a la degradación de la capacidad del piloto para recuperar rápidamente el avión de un estado no deseado”. Y recomienda a las aerolíneas que sus pilotos vuelen a mano cuando se pueda. Un regulador pidiendo por escrito usar menos la herramienta.

En 2015 la Academia Naval de Estados Unidos volvió a enseñar a navegar con sextante, mirando las estrellas. Lo había quitado en 1998 por anticuado y lo recuperó porque el GPS se puede interferir y suplantar. El subdirector del departamento de navegación lo explicó mejor que yo: nos fuimos de la navegación astronómica porque los ordenadores son estupendos pero el problema es que no tenemos plan B.

Lleva aguja e hilo

Saber hacer tu trabajo sin la herramienta no es resistirse al progreso, es tener copia de seguridad y si algo falla poder continuar, o dicho de otro modo, ser necesario.

El 3 de septiembre de 2009 publiqué en el blog que tenía entonces una tontería que se titulaba Los gadgets de mi abuela, con bastantes más tacos de los que uso ahora, básicamente decía que salíamos de casa con el móvil, el portátil, un disco duro de 500 gigas, un pendrive (sic, era 2009) y una libreta, y que si se nos caía un botón de la camisa no teníamos con qué coserlo hasta llegar a casa. Y que mi abuela salía sin móvil, sin portátil, sin periódico, sin libreta, incluso sin GPS, pero siempre llevaba en el bolso una aguja y un rollo de hilo.

No sabía que estaba escribiendo sobre esto.

Lleva aguja e hilo.