🌑💻 | El sombrío fin del Internet
En un escenario de propagación masiva de contenidos automatizados, los usuarios se enfrentan ahora al desafío de hacer valer lo humano frente al algoritmo.
Destacado Suscriptor,
La propagación masiva de contenidos creados automáticamente por potentes modelos de inteligencia artificial (machine learning) está llevando a algunos expertos a hablar sobre un "bosque oscuro" en el que prima lo algorítmico sobre lo humano.
Ante este escenario, en el texto, exploramos las estrategias que nosotros, los humanos, debemos ahora emprender para poder demostrar nuestra condición humana en una red plagada de interacciones simuladas.
Asimismo, reflexionamos sobre los retos de mantener espacios auténticos y de comunidades offline en un mundo donde la IA avanza de forma exponencial."
¿Nos acompañas?
La teoría del bosque oscuro de la web apunta al estado cada vez más parecido a la vida pero carente de vida que supone estar en línea. La mayoría de los espacios públicos y abiertos en la web están dominados por bots, anunciantes, trolls, rastreadores de datos, contenido basura para generar clics, creadores de "contenido" que sobrecargan las keywords y contenidos manipulados algorítmicamente.1
Es como un bosque oscuro que parece cruelmente vacío de vida humana - todas las criaturas vivas se esconden bajo tierra o en los árboles. Si revelan su presencia, corren el riesgo de ser atacados por depredadores automatizados.
Los humanos que quieren participar en interacciones informales, no optimizadas y personales tienen que esconderse en espacios cerrados como canales privados de Slack, grupos de Discord, boletines de correo electrónico, blogs a pequeña escala y jardines digitales. O hacerse ilegibles y incoherentes algorítmicamente en lugares públicos.
Ese bosque oscuro está a punto de expandirse. Los grandes modelos de lenguaje (LLM) que pueden generar de forma instantánea grandes cantidades de texto coherente acaban de unirse a la fiesta.
En los últimos seis meses, hemos visto una avalancha de productos de generación y redacción de contenido utilizando LLM: Jasper, Moonbeam, Copy.ai y Anyword son algunos ejemplos. Están diseñados para producir textos publicitarias, posts de blog, correos electrónicos, actualizaciones en redes sociales y páginas de marketing. Y lo hacen realmente bien.
Estos modelos se hicieron redactores competentes mucho más rápido de lo que la gente esperaba, demasiado rápido como para procesar por completo las implicaciones. Mucha gente tuvo su momento de revelación hace unas semanas cuando OpenAI publicó los agentes o GPTs, una versión ligeramente más capaz de GPT-4 con una interfaz estilo chat más accesible. La reacción colectiva de shock y asombro dejó claro cuánta gente no había estado siguiendo el progreso de estos modelos.
Para complicar más las cosas, los modelos de lenguaje no son las únicas máquinas de mimetismo que están acelerando en este momento. Los generadores de imágenes como Midjourney, DALL-E y Stable Diffusion llevan un año en una carrera acelerada. En enero de 2023 apenas podían representar un rostro humano borroso y distorsionado de baja resolución. Para el octubre reproducían imágenes indistinguibles del trabajo de fotógrafos e ilustradores humanos.
Hay cierto optimismo en torno a cómo estos modelos nos liberarán de trabajos aburridos rutinarios: redactar correos formales, memorándums internos, documentación técnica, contenido de marketing, anuncios de productos e incluso negociar con compañías de seguros médicos.
Pero también tendremos que hacer frente a los trade-offs de generar párrafos al instante y ejecutadas con un solo clic. ¡Estos nuevos modelos están a punto de inundar la web con contenido genérico!
¿Creías que la primera página de Google ya era un desastre? Aún no has visto que pasará en el famoso buscador web cuando los community managers bombardeen con miles de millones de artículos informativos, perfectamente coherentes pero predeciblemente aburridos, llenos de palabras claves para cada nicho .
Los comercios, influencers y caza-crecimiento establecerán tuberías OpenAI-Zapier que publiquen automáticamente un flujo imparable e imposiblemente banal de publicaciones de LinkedIn sobre #MotivationMonday, hilos de tweets "jugosos", monólogos de indignación en Facebook y blogs corporativos.
Va más allá del texto también: ensayos de video en YouTube, clips de TikTok, podcasts, presentaciones en PowerPoint e historias de Instagram pueden generarse engarzando sistemas de IA. ¡Y después regurgitarse para cada medio!
Vamos a ahogarnos en un mar de lugares comunes. ¡Una explosión de ruido que sepultará cualquier señal! Adiós a encontrar visiones humanas originales o conexiones auténticas bajo esa montaña de basura.
Mucha gente dirá que ya vivimos en esta realidad. Ya estamos habituados a separar la paja del grano entre las montañas de "contenido optimizado" diseñado para generar clics e impresiones publicitarias.
4chan propuso la teoría de la muerte de Internet hace años: que la mayor parte de Internet está "vacía y carente de gente" y ha sido tomada por la inteligencia artificial. Una versión más suave de esta teoría es simplemente que estamos dominados por los bots. La mayoría de nosotros ya lo damos por sentado.
Pero creemos que el volumen y escala de lo que se avecina será cualitativamente diferente. Y creo que no estamos preparados. O al menos, nosotros no lo estamos.
La prueba inversa de Turing
Nuestro nuevo desafío como pequeños y frágiles humanos será demostrar que no somos modelos de lenguaje. Es la prueba inversa de Turing.
Una vez que el bosque se expanda, nos volveremos profundamente escépticos sobre la autenticidad de los demás en la web. Cada vez que encontremos un blog favorito o una cuenta de Twitter o TikTok que nos encante, tendremos que preguntarnos: ¿esto realmente es un ser humano con una vida como la mía? ¿Hay un ser real al otro lado de esta interfaz web con el que pueda establecer una relación?
Antes de continuar, hazte una pausa y piensa: ¿cómo demostrarías que no eres un modelo de lenguaje generando textos predictivos? ¿Qué trucos especiales de humano puedes hacer que un modelo de lenguaje no puede?
Triangulación con la realidad objetiva
A medida que los modelos de lenguaje se vuelven cada vez más capaces e impresionantes, deberíamos recordar que, en su núcleo, son sistemas de predicción lingüística. Todavía no pueden razonar como los humanos.
No tienen creencias basadas en evidencias, afirmaciones ni principios. No pueden consultar fuentes externas ni realizar experimentos contra la realidad objetiva. No pueden salir y tocar la hierba.
En resumen, no tienen acceso a la misma realidad compartida que tenemos. No tienen experiencias encarnadas y no pueden percibir el mundo como lo percibimos nosotros a través de la visión, el sonido, el gusto o el tacto. No pueden sentir emociones ni mantener de manera coherente un conjunto fijo de valores. No forman parte de culturas, comunidades o historias.
Son un modelo de lenguaje en una caja. Si un evento histórico, un hecho, una persona o un concepto no formaba parte de sus datos de entrenamiento, no pueden hablar de ello. No conocen los acontecimientos posteriores a una fecha límite determinada.
Sé original, crítico y sofisticado
Más fácil decirlo que hacerlo, pero una de las mejores formas de demostrar que no eres un modelo de lenguaje predictivo es demostrar un pensamiento crítico y sofisticado.
Los modelos de lenguaje escupen texto que parece un trabajo universitario con nota B+. Coherente, aparentemente exhaustivo, pero nunca verdaderamente inspirado u original (por lo menos de momento).
En una metáfora desagradablemente evocadora, participan en una "epistemología del ciempiés humano". Los modelos de lenguaje vomitan texto por todo Internet, que algunos humanos leen y reciclan en "creaciones originales", que luego se utilizan para entrenar a otros modelos de lenguaje, y así sucesivamente reciclando ideas genéricas, argumentos, tropos y formas de pensar.
Salir limpiamente de este ciclo requiere tener pensamientos y teorías genuinamente originales. Se trata de observar y sintetizar patrones en una amplia gama de fuentes: libros, blogs, narrativas culturales transmitidas por los medios de comunicación, conversaciones, podcasts, experiencias vividas y tendencias del mercado. Podemos observar y analizar una gama mucho más amplia de inputs que los bots y modelos generativos.
Elevará la apuesta para todos. Como consumidores y creadores de contenido, tendremos que fomentar un mayor sentido del pensamiento crítico y la escepticidad.
Desarrolla peculiaridades lingüísticas creativas, dialectos, memes y jerga
El lingüista Ferdinand de Saussure argumentó que hay dos tipos de lenguaje:
La lenguaje es el concepto formal del lenguaje. Esta es la palabra que imprimimos en el diccionario, distribuimos a través de las instituciones educativas y nos regañamos mutuamente por usarla de forma incorrecta.
La jerga es el habla de la vida cotidiana. Estos son los actos de habla informales, diversos y creativos que realizamos en conversaciones, reuniones sociales y mensajes de texto al grupo de WhatsApp. Aquí es donde evoluciona el lenguaje.
Hemos diseñado un sistema que automatiza una forma estandarizada de escribir. Hemos codificado la lenguaje en un punto específico del tiempo.
Lo que nos queda para jugar es la jerga. Ningún modelo de lenguaje podrá seguir el ritmo del raro argot de internet y los memes. Esperemos que nos inclinemos hacia esta dirección. El uso de neologismos, jerga, eufemismos en forma de emoji, frases inusuales, dialectos de grupos internos y memes del momento pueden ayudar a indicar tu humanidad.
No muy diferente a los adolescentes que usan el lenguaje para subvertir a sus mayores, o las comunidades oprimidas que desarrollan dialectos que les permiten comunicarse con seguridad entre sí.
Considera la verificación institucional
Esta solución nos parece la menos interesante. Ya estamos escuchando rumores sobre cómo la "verificación" por parte de instituciones o empresas centralizadas podría ayudarnos a distinguir entre cerebros de carne y cerebros de metal.
La idea es algo así: acudes en persona para registrar tus cuentas y dominios en línea. Luego obtienes algún distintivo o marca especial en línea que te legitime como un auténtico ser humano. Podría o no estar en la blockchain de alguna manera.
Google podría parecerse a esto:
Resultados de búsqueda de Google mostrando un distintivo de 'humano certificado' en algunos elementos
Todo el asunto parece plagado de problemas, susceptible al abuso y finalmente impráctico. ¿Seguiría siendo la web si todo el mundo supiera que en realidad eres un perro? (por así decirlo).
Muéstrate en la vida real
El último as bajo la manga que tenemos frente a los modelos de lenguaje es que podemos demostrar que somos seres humanos reales presentándonos en persona con nuestros cuerpos humanos reales. Podemos organizar reuniones para encontrarnos offline con amigos de Twitter sobre un café. Podemos organizar encuentros, eventos, conferencias, contraconferencias, reuniones informales y noches de pub.
En Markets for Lemons and the Great Logging Off, Lars Doucet propuso varios efectos secundarios derivados de este futuro centrado en la vida offline. Podríamos ver un aumento en la fetichización de la cultura anti-pantallas, así como incrementos de precios en bienes raíces en áreas densamente pobladas.
Por el momento todavía podemos comprobar la humanidad a través de Zoom, pero la generación de video en vivo está mejorando lo suficiente como para pensar que esa defensa no durará mucho.
Por supuesto, hay muchas personas que no pueden pasar a una vida centrada en lo offline; gente con discapacidades físicas, gente que vive en zonas rurales remotas, gente con poco tiempo y responsabilidades de cuidado de personas muy jóvenes o muy ancianas. Para ellos será más difícil verificar su humanidad en línea. No tenemos grandes ideas para ayudar a resolver esto, pero esperamos que encontrar mejores soluciones que nuestra lamentable lista.
A medida que el bosque se oscurezca, se vuelva más ruidoso y menos humano, esperamos invertir más tiempo en relaciones e comunidades presenciales. Y si bien amamos el mundo real, esto sigue sintiéndose como una pérdida.
Con información de Maggie Appleton
La propia era cibernetica. No estoy seguro si ya estamos en la era de la confusion y el caos, si no es, estamos muy cerca.