He leído este artículo de Enrique Dans sobre Confer y me ha confirmado que casi nunca hablamos sobre humanismo digital. El humanismo digital no es sólo un concepto bonito, sino que es una forma de diseñar producto digital que respeta cómo funcionamos las personas.
Confer es un chatbot de IA creado por Moxie Marlinspike, el tipo que hizo Signal. Lo interesante aquí no es tanto la tecnología que usa (cifrado de aquí para allá, entornos de ejecución aislados y demás) sino la decisión de diseño que hay detrás: construir algo desde la premisa de que no tienes por qué confiar en nadie, ni siquiera en quien te da el servicio. Nada muy distinto de nuestro comportamiento habitual cuando salimos a la calle.
Lo que pasa es que hemos normalizado un montón cosas sin darnos cuenta. Llevamos años usando ChatGPT, Claude o Gemini, y nos hemos acostumbrado a que nuestras conversaciones con estas herramientas acaben en algún sitio, para entrenar el modelo, para mejorar el servicio… en fin, ya sabéis. El tema es que cuando hablamos con una IA no le estamos dando datos sueltos, sino que le estamos diciendo cómo pensamos, nuestras dudas sin filtrar (¿o es que nadie ha pensado nunca que sería de nosotros si se filtrasen nuestras conversaciones con un modelo de estos? je!). En fin, todos esos razonamientos en borrador que no le diríamos a nadie.
Enrique Dans lo explica muy bien en su artículo: el formato conversacional de estos cacharros nos hace confesar, y eso no debería estar en un data lake de nadie.
Diseñar para que no tengas que confiar
Lo novedoso de Confer es que no pide que confiemos en una promesa de privacidad escrita en letra pequeña, sino que nos ofrece algo mejor: que sea técnicamente imposible espiarnos. Ni siquiera ellos pueden leer lo que escribes. No es “no lo haremos”, es “no podemos aunque quisiéramos”.
Eso cambia bastante el diseño y lo hace desde la raíz. No se trata de educar al usuario para que no comparta información sensible, ni por supuesto se trata de engañar al usuario para que no sepa nada. Se trata de que pueda pensar libremente, sin consecuencias. Y lo que más me ha gustado es que parece que toda esa infraestructura de protección es invisible para quien lo usa. ¿Os acordáis de aquella frase de que la mejor tecnología es la que no se ve? Pues eso mismo.
Dans dice que ha tenido una experiencia estupenda.
La mejor experiencia de diálogo personal con un chatbot desde que empezó a probarlos. Sin subir documentos, sin compartir enlaces, solo conversación. Y la hace bien.
El humanismo digital es entender lo incómodo
A mí esto me parece humanismo digital en estado puro. No es diseñar productos buenos que nos dicen cómo deberíamos comportarnos, sino que se trata de respetar cómo funcionamos: necesitamos pensar en voz alta, necesitamos dudar sin filtro, necesitamos probar ideas antes de que estén listas y, por supuesto, necesitamos equivocarnos a lo grande.
Confer reconoce que los seres humanos, cuando estamos en un momento de intimidad y en un espacio que creemos seguro, siempre hacemos algo así como confesarnos. Perdemos el filtro. Y Confer en lugar de aprovecharse de ello, lo protege. Eso es lo que yo entiendo como diseño honesto.
El precio de no venderte
Pero como siempre sucede, la fiesta hay que pagarla. Es el principio de realidad, una vez más. Si no venden nuestros datos, tienen que cobrar de otra manera. ¿Cómo? Pues con un modelo freemium: versión gratuita limitada y versión de pago a $34.99/mes. A algunos les parecerá caro, a mí me parece coherente. Si queremos un servicio que no nos convierta en producto, tendremos que hacernos cargo. De nuevo, el principio de realidad.
Para terminar
Confer no es perfecto, al menos todavía, pero plantea la pregunta correcta: ¿qué entendemos por servicio de IA? ¿Algo que nos ayuda a cambio de nuestros pensamientos, o algo que nos ayuda y punto?
En este sector la privacidad es opcional y está enterrada en ajustes y letra pequeña. Confer hace una apuesta importante y la convierte en fundamento. No es un feature que podamos activar sino que es la arquitectura sobre la que está construido todo. Eso es, para mi, diseñar para humanos. Eso es humanismo digital aplicado.
