Por Agencias

Algunos sistemas de inteligencia artificial (IA) han aprendido ya cómo engañar a los humanos, incluso si han sido entrenados para ser útiles y honestos, según un estudio que cita entre otros ejemplos a Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy.

Un artículo de revisión de otros estudios publicado en Patterns por autores estadounidenses y australianos describe los riesgos del engaño por parte de la IA y piden a los gobiernos que elaboren cuanto antes normativas estrictas para abordar el problema.

El equipo, liderado por Peter Park, del Instituto Tecnológico de Massachusetts (MIT), define engaño como "la inducción sistemática de creencias falsas con el fin de obtener un resultado distinto de la verdad". Park indica que "los desarrolladores de IA no saben a ciencia cierta qué causa comportamientos indeseables en la IA, como el engaño".

En términos generales, el equipo cree que surge porque una estrategia basada en ese comportamiento fue "la mejor manera de obtener buenos resultados en una tarea dada de entrenamiento. El engaño les ayuda a conseguir sus objetivos", afirmó Park.

Los investigadores repasaron la literatura centrada en las formas en que los sistemas de IA difunden información falsa, mediante el engaño aprendido.

El engaño es "especialmente probable" cuando un sistema de IA se entrena para ganar juegos que tienen un elemento social, como Diplomacy (un juego de conquista del mundo que implica la creación de alianzas).

El estudio repasa ejemplos en los que los sistemas de IA aprendieron a engañar para lograr un rendimiento experto en un tipo de juego o tarea como Cicero, diseñado para jugar al Diplomacy.

Meta afirma que lo entrenó para que fuera "en gran medida honesto" y "nunca apuñalara intencionadamente por la espalda a sus aliados humanos", sin embargo, "se dedica al engaño premeditado, rompe los tratos y dice falsedades descaradas", asegura el estudio.

Un caso de engaño premeditado es cuando Cicero adquiere un compromiso que nunca tuvo intención de cumplir. Jugando a Diplomacy en el papel de Francia, la IA conspiró con Alemania para engañar a Inglaterra.

Después de decidir con Alemania invadir el Mar del Norte, dijo a Inglaterra que le defendería si alguien invadía esa zona y un vez convencida informó a Alemania de que estaban listos para atacar.

Otros sistemas de IA demostraron su capacidad para hacer trampa en una partida de Poker Texas Hold'em o para fingir ataques en el juego de estrategia Starcraft II para derrotar a sus oponentes.

No soy un robot

En el caso de ChatGPT 4, el estudio señala cómo engañó a un humano con un test Captcha (los que se hacen para señalar a una web que no somos un robot). Esa IA aseguró que no era un robot, pero que tenía un problema de visión que le dificultaba ver imágenes.

Aunque pueda parecer inofensivo que los sistemas de IA hagan trampas en los juegos, puede dar lugar a "grandes avances en las capacidades de engaño" que pueden derivar en formas más avanzadas en el futuro, consideró Park.

Algunos sistemas aprendieron a engañar en pruebas para evaluar su seguridad, haciéndose los muertos para evitar ser detectados por un test diseñado para eliminar las variantes de IA que se replican rápidamente.

Los principales riesgos a corto plazo de la IA engañosa incluyen facilitar a agentes hostiles la comisión de fraudes y la manipulación de elecciones, según el artículo.

Normativas estrictas

Los responsables políticos deben apoyar una normativa estricta para sistemas de IA potencialmente engañosos; las leyes existentes deben aplicarse rigurosamente para evitar acciones ilegales por parte de las empresas y sus sistemas de IA, además los legisladores deberían considerar nuevas normas para la supervisión de los sistemas avanzados de IA, indica el equipo.

El investigador de la Universidad de Edimburgo Michael Rovatsos, que no participó en el estudio, considera que "los sistemas de IA intentarán aprender a optimizar su comportamiento utilizando todas las opciones disponibles, no tienen ningún concepto del engaño ni ninguna intención de hacerlo".

Rovatsos, citado por Science Media Centre, estima que "la única forma de evitar el engaño es que sus diseñadores lo eliminen como opción".

Los usos maliciosos de la IA se beneficiarán de sus capacidades para engañar, "razón por la cual es necesario ilegalizarlos y dedicar esfuerzos a identificar las infracciones".

El paciente que recibió el primer trasplante de riñón de un cerdo modificado genéticamente en un hospital de Boston falleció siete semanas después de la operación, según informó el centro la noche del sábado.

El paciente, Rick Slayman, de 62 años, padecía una enfermedad renal en etapa terminal cuando recibió el trasplante, el pasado 16 de marzo, en el Hospital General de Massachusetts tras una operación de cuatro horas que fue considerada un hito médico.

El centro dijo no tener "indicaciones de que (la muerte) haya sido resultado del trasplante", según un comunicado conjunto con la familia de Slayman, que habla de algo "repentino" y destaca el trabajo del equipo médico que le dio una "segunda oportunidad".

"Sus enormes esfuerzos para liderar el xenotrasplante (de animal a humano) nos dieron a nuestra familia siete semanas más con Rick, y los recuerdos que hicimos en ese tiempo permanecerán en nuestras mentes y corazones", dijeron sus allegados.

El riñón del cerdo fue "editado con 69 genomas" mediante el uso de tecnología CRISPR-Cas9, consistente en eliminar genes porcinos eventualmente dañinos y añadir posteriormente genes humanos para hacerlo compatible con un cuerpo humano.

Además, los científicos desactivaron retrovirus endógenos del cerdo para minimizar posibles infecciones.

El cerdo donante fue proporcionado por una empresa de Massachusetts llamada eGenesis, especializada en trasplantes y en la modificación de organismos animales para hacerlos compatibles con los humanos.

También corazones

En los últimos meses, varios hospitales del mundo, sobre todo en EE.UU., han trasplantado órganos de cerdos, como riñones y corazones, modificados genéticamente, a humanos generalmente en situación de muerte cerebral.

Tras el caso de Slayman, un hospital de Nueva York hizo el pasado mes de abril el segundo trasplante del mundo de un riñón de cerdo modificado a un paciente, una mujer de 54 años.

Más de 103.000 personas se encuentran actualmente en lista de espera para recibir órganos sólo en Estados Unidos. Alrededor de 17 mueren cada día porque no pueden conseguir uno.

Cincuenta y siete mil células, casi 150 millones de sinapsis y 230 milímetros de vasos sanguíneos. Todo eso cabe en solo un milímetro cúbico de cerebro humano, lo que equivale a 1.400 terabytes de datos y es una visión sin precedentes de la organización estructural del tejido cerebral.

La Universidad de Harvard (EE.UU.) y Google Research colaboraron durante casi una década para generar la mayor reconstrucción en 3D con resolución sináptica de un trozo de corteza temporal humana de aproximadamente la mitad del tamaño de un grano de arroz.

La reconstrucción a nanoescala, de la que informa un estudio que publica Science, muestra con todo detalle cada célula y su red de conexiones neuronales, lo que da una visión sin precedentes de la organización estructural del tejido cerebral a nivel supracelular, celular y subcelular.

El cerebro humano es un órgano enormemente complejo y hasta la fecha poco se conoce de su microestructura celular, pero sí se sabe que la alteración de los circuitos sinápticos y neuronales influye en numerosos trastornos cerebrales.

Los investigadores, liderados por Jeff Lichtman, de la Universidad de Harvard, y Viren Jain, del equipo de Conectómica de Google Research, combinaron inteligencia artificial y microscopía electrónica para codificar por colores y reconstruir el cableado de ese pequeño pedazo de cerebro.

Conocer los circuitos neuronales humanos con tanto detalle conlleva una serie de retos, como las limitaciones tecnológicas o la dificultad de tener acceso a tejido de alta calidad. Las biopsias son escasas y se usan para examinar o extirpar masas neoplásicas, lo que impide investigar la estructura normal del cerebro humano.

El equipo usó como base para el estudio una muestra extraída en una intervención quirúrgica para acceder a una lesión subyacente del hipocampo de un paciente con epilepsia.

Los investigadores reconstruyeron "miles de neuronas, más de cien millones de conexiones sinápticas y el resto de tejidos, incluida la materia cerebral, las células gliales, la vasculatura sanguínea y la mielina", explican en el estudio.

visión sin precedente

Esa visión sin precedentes de un pedazo de cerebro humano permitió descubrir aspectos de la corteza temporal hasta ahora nunca vistos, como la existencia de un raro pero potente conjunto de axones (parte de la neurona que transmite las señales cerebrales) conectados por hasta 50 sinapsis.

Otros detalles son el gran número de células de la glia (encargadas de asegurar la supervivencia de las neuronas) frente al de neuronas, en una proporción de dos a una, o que los oligodendrocitos (responsables de la formación de mielina) son las células más comunes.

El equipo desarrolló además un conjunto de herramientas de libre acceso que los otros investigadores pueden utilizar y esperan que "otros estudios que utilicen este recurso puedan aportar valiosos conocimientos sobre los misterios del cerebro humano", indica la investigación.

Para sus autores, esta investigación demuestra "la viabilidad de los enfoques conectómicos humanos para visualizar y, en última instancia, comprender los fundamentos físicos del funcionamiento normal y alterado del cerebro humano".

Un equipo de científicos chinos descubrió una relación entre las anomalías de la temperatura superficial del océano Índico tropical y la magnitud de las epidemias globales de dengue.

El dengue, enfermedad viral transmitida por mosquitos, afecta a casi la mitad de la población mundial.

Eventos climáticos como El Niño son conocidos por influir en la dinámica de transmisión del dengue a nivel global por influir en la reproducción de dichos insectos.

Mediante modelos impulsados por el clima y datos sobre casos de dengue reportados en 46 países de América y el sudeste de Asia, los investigadores identificaron asociaciones entre patrones climáticos globales y la magnitud estacional e interanual de las epidemias de dengue en ambos hemisferios.

El estudio, publicado en la revista Science, reveló que el modelo tiene la capacidad de emitir advertencias de dengue con un tiempo de anticipación significativo de hasta nueve meses, una mejora sustancial respecto a los modelos anteriores, que podían proporcionar advertencias con tres meses de antelación.

Estos hallazgos podrían permitir una planificación más efectiva para la respuesta a brotes, aunque se necesitan más evaluaciones para valorar el rendimiento predictivo del modelo, indicó Tian Huaiyu, uno de los autores del estudio, citado por la agencia oficial Xinhua.