Todo en la sociedad puede parecer orientado hacia la optimización, ya sean pruebas estandarizadas o algoritmos de inteligencia artificial. Nos enseñan a saber qué resultado desea lograr y a encontrar el camino para llegar allí.
Kenneth Stanleyex investigador de OpenAI y cofundador de una nueva plataforma de redes sociales llamada experto, lleva años predicando que este método de pensar es contraproducente, si no directamente perjudicial. En lugar de priorizar los objetivos, Stanley dice que deberíamos priorizar la casualidad.
“A veces, para encontrar esos peldaños que nos llevarán a las cosas que nos importan, tenemos que salirnos del camino del objetivo y entrar en el camino de lo interesante”, dijo Stanley a TechCrunch en una entrevista en video. “La serendipia es lo opuesto a encontrar algo a través de objetivos”.
La idea de buscar la novedad por sí misma comenzó como un concepto algorítmico que los estudios de Stanley llamaron carácter abiertoun subcampo de la investigación de la IA sobre sistemas que “siguen produciendo cosas interesantes para siempre”.
“Los sistemas abiertos son como sistemas artificialmente creativos”, dijo Stanley, señalando que los humanos, la evolución y la civilización también son sistemas abiertos que continúan construyéndose sobre sí mismos de maneras inesperadas.
Esta visión algorítmica se transformó en una filosofía de vida para Stanley. Incluso escribió un libro al respecto en 2015 con su ex estudiante de doctorado Joel Lehman llamado Por qué no se puede planificar la grandeza. El concepto despegó, convirtiendo a Stanley en una especie de punto focal internacional para la descarada idea de que, en realidad, puedes hacer las cosas porque son interesantes, en lugar de porque necesitas completar algún objetivo declarado.
Pero en 2022, mientras lideraba un equipo de duración abierta en OpenAI, Stanley dijo que estaba “hirviendo de descontento” y “tuvo esta epifanía” en la que decidió dejar de hablar de llevar la apertura a audiencias más amplias y, en cambio, empezar a hacer algo al respecto. .
¿Qué pasaría si, se preguntó, creara una “red de serendipia”, un sistema creado para aumentar la probabilidad de que la serendipia pueda ser disfrutada por otras personas?
Entonces dejó su trabajo y se dispuso a crear Maven, una red social construida alrededor de un algoritmo de inteligencia artificial abierto que evoluciona para buscar novedades. Al registrarse, los usuarios seleccionan una serie de temas a seguir (desde neurociencia hasta paternidad) y el algoritmo les muestra publicaciones que se alinean con sus intereses. Los algoritmos de redes sociales actuales también le muestran cosas que pueden resultarle interesantes, pero la diferencia es que están optimizados para maximizar la participación del usuario, a menudo impulsando contenido sensacionalista, para generar más impresiones de anuncios e ingresos. Maven, por el contrario, no solo le muestra las publicaciones más populares sobre temas que le parecen interesantes. El algoritmo le muestra publicaciones según la probabilidad de que las encuentre atractivas.
Quizás lo más revolucionario es que Maven elimina la configuración actual de las redes sociales: no hay me gusta, votos positivos, retuits ni seguidores, y no hay forma de amplificar el contenido para las masas.
En cambio, cuando un usuario publica algo, el algoritmo lee automáticamente el contenido y lo etiqueta con intereses relevantes para que aparezca en esas páginas. Los usuarios pueden subir el control deslizante de serendipity para ir más allá de sus intereses declarados, y el algoritmo que ejecuta la plataforma conecta a los usuarios con intereses relacionados. Entonces, si, por ejemplo, estás siguiendo conversaciones sobre planificación urbana, Maven también podría sugerir conversaciones sobre transporte público.
Y aunque no hay forma de seguir a personas en la plataforma, puedes ver y conectarte con otras personas que siguen temas que te interesan.
En muchos sentidos, Maven se siente como un antídoto para las redes sociales actuales, donde la “paradoja objetiva está a la vista” cuando las personas se desviven por crear contenido sensacionalista que atraerá más atención y popularidad.
“Las cámaras de eco y la toxicidad, la amplificación del narcisismo y la marca personal se han salido totalmente de control, de modo que la gente está perdiendo el alma y convirtiéndose en marcas”, dijo Stanley.
El cualidades adictivas de las redes sociales, daño a la salud mental en adolescentes y adultos, y la capacidad de polarizar naciones está bien documentado. Éstas, dice Stanley, son las consecuencias no deseadas de objetivos ambiciosos, el resultado de hacer de la popularidad un indicador de la calidad.
“Y luego obtienes todas estas otras cosas porque una vez que tienes popularidad, tienes incentivos perversos”, dijo.
Stanley señaló que los usuarios de Maven pueden señalar contenido inapropiado o información errónea cuando aparece, y su IA está monitoreando activamente en busca de contenido altamente incendiario, ofensivo “o peor”. Dijo que Maven no puede arreglar la maldad de la naturaleza humana, pero al eliminar los incentivos detrás de compartir dicho contenido, Stanley espera que pueda cambiar la “dinámica agregada general de cómo se comporta la gente”.
Algunas empresas de redes sociales han intentado combatir esos incentivos en el pasado. Instagram en 2019 Probamos ocultar gustos para frenar las comparaciones y herir los sentimientos que surgen al otorgar popularidad al contenido. X, anteriormente Twitter, es preparándose para hacer que los Me gusta sean privados, también, pero por razones menos saludables. En una línea de pensamiento muy inspirada por Elon Musk, el objetivo de X es crear más participación al permitir que a las personas les guste en privado contenido “vanguardista” que de otro modo no les daría para proteger su imagen pública.
Maven está menos interesado en conectar a los usuarios con el público y más centrado en conectarlos con lo que es interesante.
El problema de la monetización
Stanley y sus cofundadores, Blas Moros y Jimmy Secretan, lanzaron Maven a finales de enero. La plataforma debutó públicamente en mayo junto con un cableado característica que, según Stanley, le dio a Maven un lugar de tendencia superior en Búsqueda de productos y generó miles de registros.
Siguen siendo cifras pequeñas en comparación con otros nuevos participantes en el espacio de las redes sociales. Cielo azul, que se lanzó en 2021, ha tenido 5,6 millones de registros. A partir de enero de 2024, Mastodon tenía 1,8 millones usuarios activos. Farcaster, un nuevo protocolo social basado en criptografía que acaba de recaudar 150 millones de dólares, ha contado alrededor de 350.000 inscripciones. Todas estas nuevas redes necesitarán crecer significativamente para que se las considere exitosas.
Aún queda una pregunta abierta sobre si Maven podrá siquiera hacer crecer su base de usuarios sin las cualidades tan tóxicas que nos encanta odiar, pero que, sin embargo, nos arrastran de regreso al pozo negro que son las redes sociales.
Maven recaudó 2 millones de dólares en 2023 en una ronda liderada por el cofundador de Twitter, Ev Williams, dijo Stanley a TechCrunch. El director ejecutivo de OpenAI, Sam Altman, también participó en la ronda. Stanley dijo que Williams y Altman invirtieron porque, como muchos de nosotros que nos hemos vuelto queridos por el espíritu casi demasiado dulce para este mundo de Maven, creen que el mundo e Internet necesitan algo como esto.
Y, de hecho, la esperanza idealista de Maven de conectar a las personas con ideas interesantes es un soplo de aire fresco que huele a principios de la década de 2000, cuando Internet era un lugar de conexión y exploración. Los sentimientos de los primeros usuarios de la plataforma son en su mayoría positivos y optimistas, ya que muchos acudieron a la plataforma en busca de interacciones genuinas y fortuitas y la prometida libertad de toxicidad.
Pero, ¿será suficiente el idealismo para atraer más inversores institucionales más adelante, cuando Maven quiera crecer?
“Creo que el desafío que enfrentamos es que, en el futuro, se convierta en una forma cada vez más difícil de recaudar dinero”, dijo Stanley, señalando que los inversionistas no desperdiciarán millones a menos que haya un camino claro para obtener un retorno de su inversión.
“Sólo necesito encontrar a los inversores adecuados en el futuro y llegar rápidamente a un modelo de negocio sostenible”, continuó, reflexionando sobre la idea de un modelo de suscripción que permitiría a Maven mantener intacta su ideología.
Por supuesto, existen otras formas en que Maven puede generar ingresos. La publicidad es un camino, pero que le atrae menos a Stanley por lo ligada que está a la viralidad y el sensacionalismo.
En el futuro, Maven también podría vender sus datos a empresas como OpenAI que están entrenando sus algoritmos con grandes cantidades de datos. OpenAI a principios de este mes firmó un acuerdo con Reddit para entrenar su IA con los datos de la empresa de redes sociales. Y la propuesta de valor de Maven desde el punto de vista de la IA no es solo el contenido de la plataforma, sino el algoritmo abierto que la ejecuta.
Stanley dijo a TechCrunch que cree que la apertura es esencial para la inteligencia artificial general (AGI), un tipo de IA que tiene como objetivo igualar o superar las capacidades humanas en una variedad de tareas cognitivas. La apertura es “un aspecto muy destacado de ser inteligente”, dijo Stanley. “Es como este aspecto creativo y también impulsado por la curiosidad del ser humano”.
“Los datos son interesantes desde la perspectiva de la IA, porque son datos sobre lo que es interesante”, dijo Stanley, señalando que a los modelos actuales de IA les falta la comprensión intuitiva de lo que es interesante y lo que no, y cómo eso puede cambiar con el tiempo. Sin embargo, aunque los datos tienen un valor potencial para la IA, Stanley dijo que Maven no tiene ningún acuerdo con ninguna empresa para otorgar acceso a esos datos.
Y aunque dijo que no ha descartado esa posibilidad en el futuro, pensaría muy detenidamente cuáles serían las implicaciones de compartir esos datos.
“Ese no es el punto para mí”, dijo, señalando que no está convencido de que sería bueno que las redes neuronales fueran completamente abiertas porque eso podría hacer que cualquier esfuerzo creativo por parte de los humanos fuera completamente inútil.
“Tenía muchas ganas de crear esta comunidad fortuita a nivel mundial”, dijo. “No es que tenga un plan paralelo: usaremos Maven para crear IA abierta o algo así. Solo quería crear algo para la gente porque comencé a sentir que todos hablarían cada vez más con chatbots y que estaríamos cada vez menos conectados con otras personas. Y yo contribuía a ello siendo investigador de IA”.
“Algo en esta idea de una red de serendipia me hizo sentir moralmente mejor, como si realmente pudiera contribuir a que las personas estuvieran más conectadas en lugar de menos”.
