{"id":16392,"date":"2025-02-27T16:54:00","date_gmt":"2025-02-27T14:54:00","guid":{"rendered":"https:\/\/festibity.com\/general\/gobierno-de-la-inteligencia-artificial\/"},"modified":"2026-01-23T14:44:45","modified_gmt":"2026-01-23T12:44:45","slug":"gobierno-de-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/festibity.com\/es\/noticies-partner\/gobierno-de-la-inteligencia-artificial\/","title":{"rendered":"Gobierno de la inteligencia artificial."},"content":{"rendered":"

Art\u00edculo facilitado por Deside Datum<\/em><\/p>\n

Hace tiempo que la ciencia ficci\u00f3n ha creado imaginarios diversos sobre la inteligencia artificial (IA). Desde ordenadores que se rebelan contra los humanos hasta humanos que se enamoran de las m\u00e1quinas.<\/p>\n

Lo cierto es que desde la d\u00e9cada de los 50, con el avance de la computaci\u00f3n, muchos han so\u00f1ado con replicar la inteligencia humana. Desde entonces, se han producido grandes desarrollos en ese campo, intercalados con periodos conocidos como inviernos de la IA<\/a>, durante los cuales las expectativas e inter\u00e9s en este campo se desvanecen.<\/p>\n

En este momento, no cabe duda de que estamos en una fase de expansi\u00f3n, quiz\u00e1s la m\u00e1s acelerada de las que han ocurrido. El desarrollo de los modelos llamados Transformers<\/a>, junto con la gran cantidad de datos disponibles y la disminuci\u00f3n de los costes de computaci\u00f3n, han permitido el desarrollo de la IA generativa<\/a>, que nos dej\u00f3 sorprendidos a muchos hace ya un par de a\u00f1os.<\/p>\n

Aun as\u00ed, los grandes objetivos que se planteaban a\u00fan no parecen haber sido alcanzados, y muchas preguntas siguen en el aire. \u00bfSon los grandes modelos de lenguaje el mejor camino para alcanzar la inteligencia artificial general? \u00bfTiene ChatGPT comportamientos emergentes? \u00bfQu\u00e9 riesgos supone esta supuesta inteligencia artificial general para el futuro de la humanidad?<\/p>\n

La realidad es que mientras estos debates est\u00e1n sucediendo, la industria va mucho m\u00e1s r\u00e1pido, y los sistemas de IA ya se est\u00e1n aplicando en pr\u00e1cticamente todos los sectores econ\u00f3micos.<\/p>\n

Adem\u00e1s, esta nueva fase expansiva de la IA tiene la particularidad de que cada avance que se produce est\u00e1 disponible de forma casi inmediata y, en muchos casos, a coste muy reducido.<\/p>\n

Actualmente, los riesgos derivados del uso de la IA a los que nos enfrentamos son menos trascendentales, pero no por eso menos peligrosos. As\u00ed pues, las preguntas m\u00e1s urgentes que debemos responder son de otro tipo:<\/p>\n

\u00bfEs posible garantizar una justa representaci\u00f3n de todos los grupos sociales en los datos de entrenamiento?<\/p>\n

\u00bfC\u00f3mo se puede asegurar que un sistema de IA no est\u00e1 replicando sesgos discriminatorios?<\/p>\n

\u00bfEs posible saber el motivo por el cual un sistema de IA recomienda no otorgarle una hipoteca a una persona? \u00bfO no concederle un permiso penitenciario?<\/p>\n

\u00bfEs posible identificar qu\u00e9 variables de los datos de entrenamiento, y en qu\u00e9 porcentaje, est\u00e1n contribuyendo a la toma de decisiones?<\/p>\n

\u00bfEs posible garantizar la fiabilidad de las respuestas de un modelo de generaci\u00f3n de texto?<\/p>\n

\u00bfC\u00f3mo se puede garantizar que las personas responsables de tomar decisiones utilizando la IA entienden c\u00f3mo opera y son capaces de supervisarlo?<\/p>\n

La respuesta a muchas de estas cuestiones es compleja, y escapa de lo estrictamente t\u00e9cnico. Debemos entender los sistemas de IA como sistemas sociot\u00e9cnicos. Esto es, sistemas tecnol\u00f3gicos que est\u00e1n integrados en los valores, din\u00e1micas y expectativas de la sociedad que los ha generado y que los aplica.<\/p>\n

Algunas iniciativas que pretenden contribuir a una IA m\u00e1s transparente y responsable est\u00e1n ya en funcionamiento. La EU AI Act<\/a> establece un marco controlado para la comercializaci\u00f3n de la IA basado en niveles de riesgo seg\u00fan los casos de uso; el Registro de Transparencia Algor\u00edtmica de EUROCITIES<\/a> pretende ser un est\u00e1ndar para tener un control de los algoritmos implementados; y la Gu\u00eda de la UNESCO para un uso responsable de la IA<\/a> propone unas recomendaciones para que los estados puedan desplegar la IA de manera controlada. No obstante, a\u00fan queda mucho por hacer en este campo tan complejo.<\/p>\n

Por todo ello, es necesario que las organizaciones se doten de equipos preparados para el gobierno de la IA con un enfoque multidisciplinar, que entiendan los riesgos de la inteligencia artificial y sepan plantear enfoques amplios para mitigarlos. Se necesitan equipos, en definitiva, que sepan plantear las preguntas adecuadas. En DesideDatum os podemos ayudar al respecto\u2026<\/p>\n","protected":false},"excerpt":{"rendered":"

Gobierno de la inteligencia artificial. La importancia de hacer las preguntas adecuadas<\/p>\n","protected":false},"author":1,"featured_media":19649,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":"","_members_access_role":[],"_members_access_error":""},"categories":[35],"tags":[],"class_list":["post-16392","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticies-partner"],"acf":[],"_links":{"self":[{"href":"https:\/\/festibity.com\/es\/wp-json\/wp\/v2\/posts\/16392","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/festibity.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/festibity.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/festibity.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/festibity.com\/es\/wp-json\/wp\/v2\/comments?post=16392"}],"version-history":[{"count":1,"href":"https:\/\/festibity.com\/es\/wp-json\/wp\/v2\/posts\/16392\/revisions"}],"predecessor-version":[{"id":17694,"href":"https:\/\/festibity.com\/es\/wp-json\/wp\/v2\/posts\/16392\/revisions\/17694"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/festibity.com\/es\/wp-json\/wp\/v2\/media\/19649"}],"wp:attachment":[{"href":"https:\/\/festibity.com\/es\/wp-json\/wp\/v2\/media?parent=16392"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/festibity.com\/es\/wp-json\/wp\/v2\/categories?post=16392"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/festibity.com\/es\/wp-json\/wp\/v2\/tags?post=16392"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}