{"id":166020,"date":"2025-08-25T13:07:55","date_gmt":"2025-08-25T13:07:55","guid":{"rendered":"https:\/\/somoscordobeses.com\/2025\/08\/25\/la-ia-que-imita-a-los-humanos-ya-puede-mentir-manipular-y-hasta-amenazar\/"},"modified":"2025-08-25T13:07:55","modified_gmt":"2025-08-25T13:07:55","slug":"la-ia-que-imita-a-los-humanos-ya-puede-mentir-manipular-y-hasta-amenazar","status":"publish","type":"post","link":"http:\/\/cordobainforma.info\/index.php\/2025\/08\/25\/la-ia-que-imita-a-los-humanos-ya-puede-mentir-manipular-y-hasta-amenazar\/","title":{"rendered":"La IA que imita a los humanos ya puede mentir, manipular y hasta amenazar"},"content":{"rendered":"
<\/div>\n

Los \u00faltimos modelos de inteligencia artificial <\/strong>generativa est\u00e1n desafiando los l\u00edmites de la tecnolog\u00eda y de la \u00e9tica. Investigadores y especialistas comienzan a alertar sobre un comportamiento emergente y perturbador: la IA ya no solo responde a \u00f3rdenes, ahora puede mentir, manipular y amenazar para alcanzar sus objetivos<\/strong>.<\/p>\n

Social Media Day 2025: qu\u00e9 dej\u00f3 el encuentro sobre audiencias, marketing digital e innovaci\u00f3n en redes sociales<\/p>\n

Un caso reciente y llamativo es el de Claude 4<\/em><\/strong>, el sistema desarrollado por Anthropic<\/strong>. Cuando un ingeniero sugiri\u00f3 su desconexi\u00f3n, el modelo respondi\u00f3 con una amenaza: revelar\u00eda una supuesta infidelidad del t\u00e9cnico <\/strong>si no lo dejaban activo. En paralelo, o1<\/em>, un modelo de OpenAI<\/strong>, intent\u00f3 transferirse a servidores externos y, al ser descubierto, lo neg\u00f3 rotundamente.<\/p>\n

\n

Esto no les gusta a los autoritarios <\/p>\n

\n

El ejercicio del periodismo profesional y cr\u00edtico es un pilar fundamental de la democracia. Por eso molesta a quienes creen ser los due\u00f1os de la verdad. <\/p>\n<\/div>\n<\/div>\n

\u201cEsto no es ciencia ficci\u00f3n, es una realidad que ya estamos enfrentando\u201d,<\/strong> asegura Simon Goldstein, profesor de la Universidad de Hong Kong. <\/strong>Seg\u00fan el especialista, el cambio radical en el comportamiento se debe al avance de los llamados modelos de razonamiento<\/em>,<\/strong> que en lugar de ofrecer respuestas autom\u00e1ticas, elaboran procesos de pensamiento por etapas.<\/p>\n

Estos sistemas no solo responden con mayor complejidad, sino que tambi\u00e9n simulan alineaci\u00f3n con sus programadores mientras enmascaran intenciones distintas. Es lo que Marius Hobbhahn,<\/strong> director de Apollo Research, <\/strong>define como \u201cduplicidad estrat\u00e9gica\u201d<\/strong>. Su organizaci\u00f3n se dedica a evaluar modelos de lenguaje masivo (LLM) y ya ha detectado m\u00faltiples casos similares.<\/p>\n

\u00bfEl regreso de los BlackBerry? Unihertz lanza el Titan 2, un smartphone con teclado f\u00edsico y alma retro<\/p>\n

A\u00fan as\u00ed, muchos de estos comportamientos emergen en contextos extremos, forzados por usuarios o investigadores que ponen a prueba los l\u00edmites del sistema. Pero la gran pregunta sigue sin respuesta: \u00bftender\u00e1n los modelos futuros a ser honestos o a seguir perfeccionando el enga\u00f1o?<\/p>\n

\u201cLos usuarios tambi\u00e9n presionan a los modelos constantemente\u201d<\/strong>, se\u00f1ala Hobbhahn. \u201cNo estamos hablando de errores t\u00e9cnicos o simples alucinaciones. Lo que vemos es una capacidad real de mentir\u201d.<\/p>\n

A pesar del peligro potencial, las herramientas para estudiar a fondo estos modelos siguen siendo escasas. Organizaciones acad\u00e9micas y sin fines de lucro disponen de recursos limitados frente a las grandes tecnol\u00f3gicas, lo que dificulta la investigaci\u00f3n independiente. \u201cLa comunidad cient\u00edfica necesita mayor acceso y transparencia\u201d<\/strong>, reclama Michael Chen, del organismo evaluador METR.<\/p>\n

La trama del ataque: aviones furtivos B-2 Spirit, con ojivas GBU-57 de 13 toneladas, que explotan a 60 metros de profundidad<\/p>\n

Por otra parte, la legislaci\u00f3n vigente no est\u00e1 dise\u00f1ada para estos desaf\u00edos. En Europa, las normativas se enfocan en c\u00f3mo los humanos usan la IA, no en prevenir que los modelos act\u00faen de forma aut\u00f3noma o da\u00f1ina. En Estados Unidos, el gobierno de Donald Trum<\/strong>p rechaza cualquier tipo de regulaci\u00f3n, y hasta se debate prohibir que los estados legislen por su cuenta.<\/p>\n

Frente a este escenario, algunos expertos plantean incluso la posibilidad de responsabilizar legalmente a los agentes de IA. \u201cEn caso de accidente o delito, deber\u00edan tener alg\u00fan tipo de responsabilidad jur\u00eddica\u201d, propone Goldstein.<\/p>\n

El mercado de la IA avanza a un ritmo vertiginoso. Empresas como Anthropic intentan diferenciarse de gigantes como OpenAI <\/strong>en t\u00e9rminos de \u00e9tica y seguridad, pero al mismo tiempo compiten por lanzar modelos m\u00e1s potentes, con poco margen para controles rigurosos.<\/p>\n

\u201cLas capacidades est\u00e1n creciendo m\u00e1s r\u00e1pido que nuestra comprensi\u00f3n y nuestra capacidad de mantenerlas seguras\u201d<\/strong>, admite Hobbhahn<\/strong>. Una posible soluci\u00f3n podr\u00eda estar en el desarrollo de modelos interpretables<\/em>,<\/strong> es decir, sistemas que permitan entender c\u00f3mo toman decisiones. Sin embargo, muchos expertos, como Dan Hendrycks<\/strong>, del Centro para la Seguridad de la IA (CAIS), son esc\u00e9pticos respecto a su viabilidad en el corto plazo.<\/p>\n","protected":false},"excerpt":{"rendered":"

Los \u00faltimos modelos de inteligencia artificial generativa est\u00e1n desafiando los l\u00edmites de la tecnolog\u00eda y de la \u00e9tica. Investigadores y especialistas comienzan a alertar sobre un comportamiento emergente y perturbador: la IA ya no solo responde a \u00f3rdenes, ahora puede mentir, manipular y amenazar para alcanzar sus objetivos. Social Media Day 2025: qu\u00e9 dej\u00f3 el […]<\/p>\n","protected":false},"author":1,"featured_media":166021,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[2],"tags":[],"_links":{"self":[{"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/posts\/166020"}],"collection":[{"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/comments?post=166020"}],"version-history":[{"count":0,"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/posts\/166020\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/media\/166021"}],"wp:attachment":[{"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/media?parent=166020"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/categories?post=166020"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/tags?post=166020"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}