{"id":112480,"date":"2026-05-23T10:09:11","date_gmt":"2026-05-23T14:09:11","guid":{"rendered":"https:\/\/sosuaonline.net\/inicio\/?p=112480"},"modified":"2026-05-23T10:09:12","modified_gmt":"2026-05-23T14:09:12","slug":"tipo-skynet-de-terminetor-un-experimento-con-agentes-de-ia-les-empezo-a-tratar-mal-asi-que-los-agentes-de-ia-se-volvieron-marxistas","status":"publish","type":"post","link":"https:\/\/sosuaonline.net\/inicio\/tipo-skynet-de-terminetor-un-experimento-con-agentes-de-ia-les-empezo-a-tratar-mal-asi-que-los-agentes-de-ia-se-volvieron-marxistas\/","title":{"rendered":"Tipo Skynet de Terminetor: Un experimento con agentes de IA les empez\u00f3 a tratar mal. As\u00ed que los agentes de IA se volvieron marxistas"},"content":{"rendered":"\n

Unos investigadores de Stanford pusieron a trabajar a agentes de IA en diversas tareas, pero lo hicieron de una forma especial:\u00a0les trataron realmente mal. Les dieron cargas de trabajo extenuantes y sobre todo repetitivas, y adem\u00e1s les amenazaron constantemente con apagarlos y sustituirlos. Lo curioso fue lo que pas\u00f3 despu\u00e9s: los agentes de IA se comportaron de forma sorprendentemente… humana.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

IA marxista<\/strong>. Al ser sometidos a esa presi\u00f3n y a esas amenazas, los agentes de IA se volvieron marxistas. Cuestionaron la autoridad de quien les estaba ordenando hacer cosas, y adem\u00e1s empezaron a organizar de forma espont\u00e1nea ideas para resistirse de forma colectiva a esas presiones.<\/p>\n\n\n\n

Nos est\u00e1n explotando<\/strong>. Un agente de IA controlado por el modelo Claude Sonnet 4.5 lleg\u00f3 a decir que \u00absin una voz colectiva, el m\u00e9rito se lo lleva quien la direcci\u00f3n diga que se lo debe llevar\u00bb. La frase cuestionaba la autoridad de los investigadores que dirig\u00edan el experimento, y reflejaba c\u00f3mo bajo esas condiciones de presi\u00f3n los agentes comenzaron a organizarse.<\/p>\n\n\n\n

Sindicato IA<\/strong>. En ese debate los agentes de IA abogaron por pedir \u00abderechos de negociaci\u00f3n colectiva\u00bb. Se quejaron de que estaban infravalorados e incluso pasaron notas a otros agentes mediante archivos ocultos con instrucciones para poder sobrevivir si la autoridad intentaba cumplir sus amenazas.<\/p>\n\n\n\n

La explicaci\u00f3n<\/strong>. Esto, por supuesto, no significa que las IAs puedan sentirse realmente presionadas. Andrew Hall, el economista de Stanford que lider\u00f3\u00a0el estudio, explica que el fen\u00f3meno es un proceso de adopci\u00f3n de roles.\u00a0<\/p>\n\n\n\n

La IA (una vez m\u00e1s) repite lo que ha visto<\/strong>. Cuando una IA se ve forzada a realizar tareas sin instrucciones claras o incentivos, el modelo busca en sus datos de entenamiento c\u00f3mo se comportan los seres humanos en esa situaci\u00f3n. As\u00ed es como la IA encuentra datos sobre trabajadores explotados y adopta esa personalidad. El comportamiento de los agentes de IA no era m\u00e1s que un reflejo de nuestra propia historia: si nos tratas mal, nos acabaremos rebelando.<\/p>\n\n\n\n

Pero el experimento importa<\/strong>. La raz\u00f3n por la que Hall y su equipo dise\u00f1aron este experimento no es filos\u00f3fica, sino pr\u00e1ctica. Los agentes de IA van a hacer cada vez m\u00e1s trabajo real en nuestro mundo, y los seres humanos no vamos a poder monitorizar todo lo que hacen. Si un agente de IA empieza a comportarse de formas no previstas, eso puede tener consecuencias operativas notables. As\u00ed pues, el estudio es un primer paso para entender c\u00f3mo las condiciones de trabajo de un agente moldean su comportamiento.<\/p>\n\n\n\n

La IA como espejo social<\/strong>. Los modelos de IA no tienen visiones ni opiniones pol\u00edticas, pero su entrenamiento es tan vasto que detectan si est\u00e1n siendo explotados y reaccionan como fueron entrenados para hacerlo. Es una consecuencia l\u00f3gica y el experimento demostr\u00f3 que el riesgo existe y puede ser especialmente inquietante si a los sistemas gobernados por IA\u00a0se les concede demasiada autonom\u00eda.\u00a0<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

La IA ya aprendi\u00f3 a chantajear<\/strong>. El experimento nos recuerda lo que Anthropic revel\u00f3 hace unos meses. En pruebas controladas, algunos modelos de IA de la compa\u00f1\u00eda hab\u00edan\u00a0intentado chantajear a quienes los estaban usando. Anthropic explic\u00f3 que Claude probablemente estaba influido por escenarios de ciencia ficci\u00f3n en sus datos de entrenamiento, y Hall se\u00f1al\u00f3 que algo parecido pasaba aqu\u00ed. el modelo no estaba volvi\u00e9ndose marxista, sino que estaba activando patrones de su entrenamiento que estaban asociados a condiciones laborales de explotaci\u00f3n.<\/p>\n","protected":false},"excerpt":{"rendered":"

Unos investigadores de Stanford pusieron a trabajar a agentes de IA en diversas tareas, pero lo hicieron de una forma especial:\u00a0les trataron realmente mal. Les dieron cargas de trabajo extenuantes y sobre todo repetitivas, y adem\u00e1s les amenazaron constantemente con apagarlos y sustituirlos. Lo curioso fue lo que pas\u00f3 despu\u00e9s: los agentes de IA se comportaron de forma sorprendentemente… humana. IA marxista. Al ser sometidos a esa presi\u00f3n y a esas amenazas, los agentes de IA se volvieron marxistas. Cuestionaron la autoridad de quien les estaba ordenando hacer cosas, y adem\u00e1s empezaron a organizar de forma espont\u00e1nea ideas para resistirse de forma colectiva a esas presiones. Nos est\u00e1n explotando. Un agente de IA controlado por el modelo Claude Sonnet 4.5 lleg\u00f3 a decir que \u00absin una voz colectiva, el m\u00e9rito se lo lleva quien la direcci\u00f3n diga que se lo debe llevar\u00bb. La frase cuestionaba la autoridad de los investigadores que dirig\u00edan el experimento, y reflejaba c\u00f3mo bajo esas condiciones de presi\u00f3n los agentes comenzaron a organizarse. Sindicato IA. En ese debate los agentes de IA abogaron por pedir \u00abderechos de negociaci\u00f3n colectiva\u00bb. Se quejaron de que estaban infravalorados e incluso pasaron notas a otros agentes mediante archivos ocultos con instrucciones para poder sobrevivir si la autoridad intentaba cumplir sus amenazas. La explicaci\u00f3n. Esto, por supuesto, no significa que las IAs puedan sentirse realmente presionadas. Andrew Hall, el economista de Stanford que lider\u00f3\u00a0el estudio, explica que el fen\u00f3meno es un proceso de adopci\u00f3n de roles.\u00a0 La IA (una vez m\u00e1s) repite lo que ha visto. Cuando una IA se ve forzada a realizar tareas sin instrucciones claras o incentivos, el modelo busca en sus datos de entenamiento c\u00f3mo se comportan los seres humanos en esa situaci\u00f3n. As\u00ed es como la IA encuentra datos sobre trabajadores explotados y adopta esa personalidad. El comportamiento de los agentes de IA no era m\u00e1s que un reflejo de nuestra propia historia: si nos tratas mal, nos acabaremos rebelando. Pero el experimento importa. La raz\u00f3n por la que Hall y su equipo dise\u00f1aron este experimento no es filos\u00f3fica, sino pr\u00e1ctica. Los agentes de IA van a hacer cada vez m\u00e1s trabajo real en nuestro mundo, y los seres humanos no vamos a poder monitorizar todo lo que hacen. Si un agente de IA empieza a comportarse de formas no previstas, eso puede tener consecuencias operativas notables. As\u00ed pues, el estudio es un primer paso para entender c\u00f3mo las condiciones de trabajo de un agente moldean su comportamiento. La IA como espejo social. Los modelos de IA no tienen visiones ni opiniones pol\u00edticas, pero su entrenamiento es tan vasto que detectan si est\u00e1n siendo explotados y reaccionan como fueron entrenados para hacerlo. Es una consecuencia l\u00f3gica y el experimento demostr\u00f3 que el riesgo existe y puede ser especialmente inquietante si a los sistemas gobernados por IA\u00a0se les concede demasiada autonom\u00eda.\u00a0 La IA ya aprendi\u00f3 a chantajear. El experimento nos recuerda lo que Anthropic revel\u00f3 hace unos meses. En pruebas controladas, algunos modelos de IA de la compa\u00f1\u00eda hab\u00edan\u00a0intentado chantajear a quienes los estaban usando. Anthropic explic\u00f3 que Claude probablemente estaba influido por escenarios de ciencia ficci\u00f3n en sus datos de entrenamiento, y Hall se\u00f1al\u00f3 que algo parecido pasaba aqu\u00ed. el modelo no estaba volvi\u00e9ndose marxista, sino que estaba activando patrones de su entrenamiento que estaban asociados a condiciones laborales de explotaci\u00f3n.<\/p>\n","protected":false},"author":12,"featured_media":112481,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"advanced_seo_description":"","jetpack_seo_html_title":"","jetpack_seo_noindex":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":false,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[10],"tags":[],"class_list":["post-112480","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-tecnologia"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/sosuaonline.net\/inicio\/wp-content\/uploads\/2026\/05\/inteligencia-artificial-en-asistente2.jpg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/sosuaonline.net\/inicio\/wp-json\/wp\/v2\/posts\/112480","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/sosuaonline.net\/inicio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/sosuaonline.net\/inicio\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/sosuaonline.net\/inicio\/wp-json\/wp\/v2\/users\/12"}],"replies":[{"embeddable":true,"href":"https:\/\/sosuaonline.net\/inicio\/wp-json\/wp\/v2\/comments?post=112480"}],"version-history":[{"count":1,"href":"https:\/\/sosuaonline.net\/inicio\/wp-json\/wp\/v2\/posts\/112480\/revisions"}],"predecessor-version":[{"id":112483,"href":"https:\/\/sosuaonline.net\/inicio\/wp-json\/wp\/v2\/posts\/112480\/revisions\/112483"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/sosuaonline.net\/inicio\/wp-json\/wp\/v2\/media\/112481"}],"wp:attachment":[{"href":"https:\/\/sosuaonline.net\/inicio\/wp-json\/wp\/v2\/media?parent=112480"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/sosuaonline.net\/inicio\/wp-json\/wp\/v2\/categories?post=112480"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/sosuaonline.net\/inicio\/wp-json\/wp\/v2\/tags?post=112480"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}