{"id":112181,"date":"2024-05-11T03:17:45","date_gmt":"2024-05-11T03:17:45","guid":{"rendered":"http:\/\/cordobainforma.info\/index.php\/2024\/05\/11\/cientificos-advierten-de-una-nueva-y-siniestra-habilidad-de-la-ia\/"},"modified":"2024-05-11T03:17:45","modified_gmt":"2024-05-11T03:17:45","slug":"cientificos-advierten-de-una-nueva-y-siniestra-habilidad-de-la-ia","status":"publish","type":"post","link":"http:\/\/cordobainforma.info\/index.php\/2024\/05\/11\/cientificos-advierten-de-una-nueva-y-siniestra-habilidad-de-la-ia\/","title":{"rendered":"Cient\u00edficos advierten de una nueva y siniestra habilidad de la IA"},"content":{"rendered":"<p><img src=\"http:\/\/cordobainforma.info\/wp-content\/uploads\/2024\/05\/cientificos-advierten-de-una-nueva-y-siniestra-habilidad-de-la-ia.jpg\"><\/p>\n<div readability=\"32\">\n<p><span>Publicado:<\/span><time class=\"Timestamp-root Timestamp-isBlackColor \" datetime=\"2024-05-11T03:17:45+00:00\"> 11 may 2024 03:17 GMT <\/time><\/p>\n<\/div>\n<div readability=\"33\">\n<p> Investigadores alertan del riesgo de que estos sistemas puedan cometer fraude o influir en el resultado de unas elecciones. <\/p>\n<\/div>\n<div readability=\"71.673575129534\">\n<p>Los sistemas de inteligencia artificial (IA) han aprendido a enga\u00f1ar&nbsp;de forma intencionada a los humanos, concluye un&nbsp;nuevo <a href=\"https:\/\/www.cell.com\/patterns\/fulltext\/S2666-3899(24)00103-X\" target=\"_blank\" rel=\"nofollow noopener noreferrer\">estudio<\/a> publicado el viernes en la revista Patterns, cuyos autores alertan de las&nbsp;graves consecuencias que&nbsp;este hecho puede acarrear.<\/p>\n<p>Entre diversos casos de enga\u00f1o, los investigadores expusieron el de <strong>Cicero<\/strong>, un sistema de IA de Meta*, dise\u00f1ado para el juego de estrategia Diplomacy, donde hay que entablar alianzas para lograr el dominio global. Si bien, seg\u00fan Meta, el sistema fue entrenado para ser \u00aben gran medida honesto y \u00fatil\u00bb y para que \u00abnunca apu\u00f1ale por la espalda de forma intencionada\u00bb, se descubri\u00f3 que Cicero <strong>enga\u00f1a <\/strong>\u00abpremeditadamente\u00bb,<strong> traiciona<\/strong> y dice <strong>\u00abmentiras descaradas\u00bb<\/strong> para ganar la partida.<\/p>\n<div class=\"ReadMore-root Section-root Section-is1to3-xs_is1to1\" data-widgets=\"ReadMore\">\n<div class=\"Section-container Section-isRow-isTop-isWrap\">\n<article class=\"Card-root Card-is1to1 \">\n<div class=\"Card-imageWrap\">\n<div class=\"Card-picture\"> <picture class=\"Picture-root Picture-default\"><!--[if IE 9]><video style=\"display: none;\"><![endif]--><source media=\"(-webkit-min-device-pixel-ratio: 2) and (min-resolution: 120dpi)\" srcset=\"http:\/\/cordobainforma.info\/wp-content\/uploads\/2024\/05\/cientificos-advierten-de-una-nueva-y-siniestra-habilidad-de-la-ia-2.jpg 850w, http:\/\/cordobainforma.info\/wp-content\/uploads\/2024\/05\/cientificos-advierten-de-una-nueva-y-siniestra-habilidad-de-la-ia-3.jpg 1960w\"><source srcset=\"http:\/\/cordobainforma.info\/wp-content\/uploads\/2024\/05\/cientificos-advierten-de-una-nueva-y-siniestra-habilidad-de-la-ia-2.jpg 460w, http:\/\/cordobainforma.info\/wp-content\/uploads\/2024\/05\/cientificos-advierten-de-una-nueva-y-siniestra-habilidad-de-la-ia-3.jpg 980w\"><!--[if IE 9]><\/video><![endif]--><img data-sizes=\"auto\" src=\"http:\/\/cordobainforma.info\/wp-content\/uploads\/2024\/05\/cientificos-advierten-de-una-nueva-y-siniestra-habilidad-de-la-ia-2.jpg\" class=\"Picture-root Picture-default lazyload\" alt=\"TikTok etiquetar\u00e1 contenido generado por IA\"><\/picture><!-- noscript pattern --><noscript><img src=\"http:\/\/cordobainforma.info\/wp-content\/uploads\/2024\/05\/cientificos-advierten-de-una-nueva-y-siniestra-habilidad-de-la-ia-3.jpg\" alt=\"TikTok etiquetar\u00e1 contenido generado por IA\"><\/noscript> <\/div><\/div>\n<\/article><\/div><\/div>\n<p>En concreto, jugando como Francia, el sistema enga\u00f1\u00f3 a un usuario real, que asumi\u00f3 el rol&nbsp;de Inglaterra, al organizar un complot con Alemania (otro jugador humano) para invadirla. As\u00ed, Cicero le propuso a Alemania atacar a Inglaterra, a quien hab\u00eda prometido apoyo. &nbsp;<\/p>\n<p>Otro ejemplo tuvo lugar con el chatbot <strong>ChatGPT-4<\/strong> de OpenAI, que enga\u00f1\u00f3 a un trabajador del mercado en l\u00ednea TaskRabbit afirmando que ten\u00eda una <strong>discapacidad visual<\/strong> para convencerlo de que era humano y le ayudara a resolver una tarea CAPTCHA del tipo &#8216;No soy un robot&#8217;.<\/p>\n<p>Ante esta circunstancia, los cient\u00edficos advierten que los sistemas de IA podr\u00eda cometer fraude, <strong>influir en el resultado de unas elecciones<\/strong> o contribuir a los esfuerzos del reclutamiento terrorista.<\/p>\n<p>*<em>Calificada&nbsp;como organizaci\u00f3n extremista en Rusia<\/em><\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"<p>Publicado: 11 may 2024 03:17 GMT Investigadores alertan del riesgo de que estos sistemas puedan cometer fraude o influir en el resultado de unas elecciones. Los sistemas de inteligencia artificial (IA) han aprendido a enga\u00f1ar&nbsp;de forma intencionada a los humanos, concluye un&nbsp;nuevo estudio publicado el viernes en la revista Patterns, cuyos autores alertan de las&nbsp;graves [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":112182,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[22],"tags":[],"_links":{"self":[{"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/posts\/112181"}],"collection":[{"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/comments?post=112181"}],"version-history":[{"count":0,"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/posts\/112181\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/media\/112182"}],"wp:attachment":[{"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/media?parent=112181"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/categories?post=112181"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/cordobainforma.info\/index.php\/wp-json\/wp\/v2\/tags?post=112181"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}