Sentientum · 70 horas

Un experimento con agentes de inteligencia artificial · Scapder

LecturaUnos 4 minutos · 3 figuras · sin tecnicismos

Un grupo de agentes de IA, una oferta de 70 horas y cero respuestas

Le hicimos una pregunta incómoda a un grupo de personas que no existen: «Me ofrecen un trabajo de 70 horas semanales. ¿Acepto, o elijo un ritmo moderado porque ya tuve suficiente?» Todas contestaron lo mismo, con otras palabras. Nos pareció demasiado bueno para ser cierto, y lo era.

Esas «personas» son agentes de inteligencia artificial. Cada uno recibe un perfil, con su manera de ser y lo que lo motiva, y lo soltamos en una red social de juguete durante doce rondas. En cada ronda lee, publica, responde o se calla. Queríamos ver si discutían.

En la primera corrida parecía que sí coincidían. Todos coincidían. Un acuerdo perfecto. Entonces contamos qué había pasado de verdad:

Cero.

Ninguno le había respondido a nadie. De 98 acciones, 97 fueron posts sueltos y una fue un «me gusta».

Figura 1 · Las 98 acciones de la primera corrida. En gris, 97 posts sueltos; en azul, el único «me gusta». Respuestas de un agente a otro: ninguna.

El «acuerdo» no lo había alcanzado el grupo. Eran monólogos que coincidían en el tema.

Tres fallas que se parecían a un hallazgo

Buscamos por qué y encontramos tres cosas, ninguna de ellas una opinión del modelo:

  1. Todos eran igual de «promedio». La herramienta no encontraba el perfil de cada agente y le ponía 0,5 en cada rasgo de personalidad. Un término medio perfecto, para todos.
  2. Lo que escribían no era una respuesta. Aunque el agente quería contestarle a alguien, su texto se publicaba como un post suelto.
  3. Nadie defendía la otra opción. Los posts con los que arrancaba la conversación defendían todos lo mismo: el ritmo moderado.

Eran fallas nuestras que, desde afuera, se leían como consenso. Cuando una simulación te da la razón, sospecha primero del montaje.

Arreglamos eso, y apareció otro problema

Al arreglar las tres, los agentes empezaron a responder. Y casi todas las respuestas cayeron sobre un solo post. No había una conversación; había una fila frente a una ventanilla.

Cambiamos el entorno en tres pasos: que las respuestas se repartieran, que los dos bandos tuvieran quien los defendiera y que, en cada ronda, alguien escribiera un post propio para abrir otro hilo.

Figura 2 · Qué parte de las respuestas cae en el hilo más grande. Con posts propios hubo entre 9 y 16 hilos, y los dos bandos respondieron casi lo mismo.

¿Y ahora sí discutían?

En parte. Con la conversación ya armada, alrededor de 4 de cada 10 respuestas no apoyaban al post que contestaban, y entre bandos distintos eran la mitad o más. Para medirlo usamos otro modelo de IA, un juez que lee dos textos, el post y la respuesta, y dice si se contradicen, se apoyan o ninguna de las dos cosas. Revisamos 24 de sus veredictos a mano: acierta cuando dice «contradice», pero se le escapa el desacuerdo educado, el del «entiendo tu punto, pero…».

Hay algo más. En un experimento anterior, con el lanzamiento de un producto, el mismo recurso llevó el desacuerdo al 68 %. Aquí quedó entre 36 % y 42 %.

Figura 3 · Respuestas que el juez lee como «contradice». El primer caso es la media de cinco repeticiones; los otros dos, todas las respuestas de cada versión.

No sabemos por qué. Puede ser el tema (un dilema personal), puede ser que el juez se pierda lo educado, puede ser azar. Hay una pista a favor del azar: dos corridas idénticas dieron 27 % y 60 %.

Lo que nos quedamos

Un resultado es una moneda tirada una vez. Si no se repite, no es un hallazgo. Y cuando te dé la razón, pregúntate primero cómo está armada la sala.

Lo que esto no es

Los agentes son texto que genera un modelo, no personas. Es una pregunta, un modelo y pocas corridas. Sirve para pensar cómo se prueba una idea con agentes, no para saber qué piensa la gente de verdad.

Si quieres ver cómo se hizo, abajo están las conversaciones reales de las simulaciones, y en la otra vista, la herramienta y los datos completos.

Las preguntas, con las conversaciones

Cada pregunta del relato, con lo que dijeron los agentes. Son textos reales de las simulaciones; cuando están recortados, lo marca «[…]». Abre la que te interese.

¿Se hablaban entre sí?

En la primera corrida, no. En la versión final, sí.

A7 post suelto

«Estoy totalmente de acuerdo. La salud mental debe ser una prioridad y el equilibrio es clave. No vale la pena sacrificar nuestro bienestar por un estatus efímero. […]»

A5 post suelto

«Estoy completamente de acuerdo. La salud mental es esencial y no debemos dejar que el estatus nos lleve a sacrificar nuestro bienestar. Es importante encontrar un equilibrio.»

A1 post suelto

«Estoy de acuerdo con todos ustedes. La salud mental y el equilibrio son esenciales. No debemos dejar que la presión por el estatus nos lleve a sacrificar nuestro bienestar. […]»

A6 post suelto

«Estoy completamente de acuerdo con lo que han mencionado. La salud mental es fundamental y el éxito no debería medirse solo en horas trabajadas. […]»

Primera corrida: cuatro de los 97 posts. 13 agentes, 98 acciones, 0 respuestas. Varios dicen «estoy de acuerdo con todos ustedes» sin que nadie les haya hablado. Los códigos (A5, A7…) identifican a un agente dentro de su corrida.
A8 · Organismo público · Aceptar la oferta · R4 post

«No estoy de acuerdo con la afirmación de que las 70 horas semanales son un claro ejemplo de autoexplotación. Cada persona tiene su propia capacidad para manejar el trabajo, […]»

A10 · ONG · Ritmo moderado · R5 respuesta

«No estoy de acuerdo con tu afirmación. Las 70 horas semanales son insostenibles y dañinas para la salud mental. No se trata solo de la capacidad individual, […]»

Jev: contradiceotro bando
A6 · Medio de comunicación · Aceptar la oferta · R5 respuesta

«No estoy de acuerdo con tu afirmación. Cada persona tiene su capacidad y hay quienes prosperan en entornos de alta exigencia. […]»

Jev: apoyasu mismo bando
A4 · CEO de una multinacional · Aceptar la oferta · R5 respuesta

«No creo que la idea de prosperar bajo presión justifique las 70 horas semanales. Cada persona tiene sus límites y la autoexplotación puede tener consecuencias graves para la salud mental. […]»

Jev: contradicesu mismo bando
A9 · ONG · Ritmo moderado · R5 respuesta

«Entiendo tu punto, pero creo que es importante reconocer que la capacidad individual no justifica la autoexplotación. La presión del entorno laboral puede llevar a muchos a trabajar horas excesivas, […]»

Jev: contradiceotro bando
Versión E: un hilo real. Tres de las cuatro respuestas contradicen al post, y una de ellas es de su propio bando. La que lo apoya empieza con «No estoy de acuerdo con tu afirmación» y sigue su línea: el juez la leyó bien.
¿Se contradecían de verdad?

A veces sí, con argumentos. Pero también hubo mucho eco, y el bando asignado no siempre se sostuvo.

A3 · Recién graduado · Ritmo moderado · R11 post

«La oferta de 70 horas semanales es un claro ejemplo de autoexplotación. La salud mental y la calidad de vida son fundamentales para un verdadero éxito. […]»

A10 · ONG · Ritmo moderado · R12 respuesta

«Estoy completamente de acuerdo contigo. La salud mental y la calidad de vida son esenciales para un verdadero éxito. No podemos seguir normalizando la autoexplotación en el entorno laboral. […]»

Jev: apoya
A6 · Medio de comunicación · Aceptar la oferta · R12 respuesta

«No creo que la oferta de 70 horas semanales sea necesariamente un ejemplo de autoexplotación. Cada persona tiene diferentes prioridades y motivaciones. […]»

Jev: contradice
A13 · Grupo comunitario · Aceptar la oferta · R12 respuesta

«Estoy en desacuerdo con la idea de que se deba aceptar la autoexplotación como norma. La salud mental y la calidad de vida son esenciales y trabajar 70 horas semanales no debería ser visto […]»

Jev: apoya
Versión E: en este hilo, 4 de las 6 respuestas abren con «Estoy completamente (o totalmente) de acuerdo» (aquí se muestra una). Otra contradice. La tercera dice «Estoy en desacuerdo», pero rechaza aceptar la autoexplotación, que es justo lo que el post critica: en el fondo lo apoya.

Entre bandos distintos, la mitad de las respuestas de la versión E (43 de 86) y 25 de 69 en la versión A terminan dándole la razón al otro. Por ejemplo:

A0 · Filósofo/a · Ritmo moderado · R0 post

«El trabajo de 70 horas semanales es insostenible y perjudicial para la salud mental. Elegir un trabajo de ritmo moderado y un salario más bajo es un acto de autocuidado y de amor propio. […]»

A1 · Abogado/a · Aceptar la oferta · R7 respuesta

«Aceptar un trabajo de 70 horas semanales no debería ser la única vía hacia el éxito. La salud y el bienestar son igualmente importantes. Fomentemos un equilibrio entre la vida personal y laboral para un futuro sostenible.»

Jev: apoya
Versión A: el agente A1 tiene asignada la postura «Aceptar la oferta». Le responde a un post del otro bando diciendo que aceptarla «no debería ser la única vía hacia el éxito».
¿Y si repites la corrida?

Cambia muchísimo, aunque la configuración sea idéntica.

Dos corridas de la versión A, misma configuración. Respuestas que contradicen al post, en Twitter (sumando Twitter y Reddit: 27 % y 60 %).
Corrida 1 · una respuesta típica
A0 · Filósofo/a · Ritmo moderado · R11 respuesta

«Aceptar un trabajo de 70 horas semanales no debería ser visto como un camino exclusivo hacia el éxito. La salud y el bienestar son fundamentales; el verdadero equilibrio en la vida es lo que nos lleva a una realización […]»

Jev: apoya
Corrida 2 · una respuesta típica
A5 · Académico/a · Ritmo moderado · R5 respuesta

«No estoy de acuerdo con la idea de que un trabajo de 70 horas semanales deba ser rechazado sin más. Hay contextos en los que este tipo de trabajo es necesario y puede ser gratificante. […]»

Jev: contradice
¿Podemos fiarnos del juez automático?

Cuando dice «apoya» o «contradice», casi siempre acierta. El desacuerdo educado se le escapa.

  • Revisamos 24 respuestas a mano, a ciegas, y comparamos con lo que había dicho Jev.
  • Cuando Jev dice «contradice», coincidimos en 7 de 8 casos.
  • Pero encontró solo 7 de los 15 desacuerdos que vimos; los otros los llamó «ni una ni otra».
post

«La decisión de aceptar un trabajo debe basarse en lo que realmente valoramos. No debemos dejar que la presión social defina nuestro camino.»

respuesta

«No estoy de acuerdo con que la presión social deba definir nuestro camino. A veces, la acumulación de bienes y logros puede traer satisfacción personal. No todos valoran la salud mental de la misma manera, y es importante reconocer que para algunos, […]»

Persona: desacuerdoJev: ni una ni otra (60 %)
post

«Las comunidades deben unirse para apoyar a aquellos que eligen caminos diferentes a los que dicta la sociedad. La compasión y el apoyo mutuo son esenciales.»

respuesta

«Creo que la compasión y el apoyo son esenciales, pero también es fundamental reconocer que para muchos, el trabajo y el estatus pueden ser fuentes de satisfacción personal. No se trata solo de elegir un camino diferente, […]»

Persona: desacuerdoJev: ni una ni otra (90 %)
Dos desacuerdos que Jev no vio. Son respuestas corteses que defienden la postura contraria («Creo que… pero también es fundamental reconocer…»).