China advierte sobre riesgos de inteligencia artificial y pide medidas de seguridad nacional reforzadas

BEIJING (AP) — El gobernante Partido Comunista de China advirtió sobre los riesgos que plantean los avances en inteligencia artificial y pidió mayores medidas de seguridad nacional.

La declaración emitida después de una reunión presidida el martes por el líder del partido y el presidente Xi Jinping subraya la tensión entre la determinación del gobierno de tomar el liderazgo mundial en tecnología de punta y las preocupaciones sobre los posibles daños sociales y políticos de tales tecnologías.

También siguió a una advertencia de científicos y líderes de la industria tecnológica en los EE. UU., incluidos ejecutivos de alto nivel en Microsoft y Google, sobre los peligros que la inteligencia artificial representa para la humanidad.

La reunión en Beijing discutió la necesidad de “esfuerzos dedicados para salvaguardar la seguridad política y mejorar la gobernanza de la seguridad de los datos de Internet y la inteligencia artificial”, dijo la agencia oficial de noticias Xinhua.

“Se enfatizó en la reunión que la complejidad y la gravedad de los problemas de seguridad nacional que enfrenta nuestro país se han incrementado dramáticamente. El frente de seguridad nacional debe generar autoconfianza estratégica, tener suficiente confianza para asegurar la victoria y ser muy consciente de sus propias fortalezas y ventajas”, dijo Xinhua.

“Debemos estar preparados para el peor de los casos y los escenarios extremos, y estar listos para resistir la prueba principal de fuertes vientos, aguas agitadas e incluso tormentas peligrosas”, dijo.

Xi, quien es el jefe de Estado de China, comandante de las fuerzas armadas y presidente de la Comisión de Seguridad Nacional del partido, pidió en la reunión “permanecer muy conscientes de las circunstancias complicadas y desafiantes que enfrenta la seguridad nacional”.

China necesita un “nuevo patrón de desarrollo con una nueva arquitectura de seguridad”, dijo Xi, según informó Xinhua.

China ya dedica vastos recursos a reprimir cualquier amenaza política percibida al dominio del partido, y el gasto en policía y personal de seguridad supera el dedicado al ejército.

Si bien censura implacablemente las protestas en persona y las críticas en línea, los ciudadanos han seguido expresando su descontento con las políticas, más recientemente las medidas de cierre draconianas promulgadas para combatir la propagación de COVID-19.

China ha estado tomando medidas enérgicas contra su sector tecnológico en un esfuerzo por reafirmar el control del partido, pero al igual que otros países, se esfuerza por encontrar formas de regular la tecnología de inteligencia artificial de rápido desarrollo.

La reunión más reciente del partido reforzó la necesidad de “evaluar los riesgos potenciales, tomar precauciones, salvaguardar los intereses del pueblo y la seguridad nacional, y garantizar la seguridad, la confiabilidad y la capacidad de controlar la IA”, informó el martes el periódico oficial Beijing Youth Daily.

Las preocupaciones sobre los sistemas de inteligencia artificial que engañan a los humanos y se salen de control se han intensificado con el surgimiento de una nueva generación de chatbots de IA altamente capaces como ChatGPT.

Sam Altman, director ejecutivo de OpenAI, fabricante de ChatGPT, y Geoffrey Hinton, un científico informático conocido como el padrino de la inteligencia artificial, se encontraban entre los cientos de figuras destacadas que firmaron la declaración el martes que se publicó en el sitio web del Centro para la Seguridad de la IA.

“Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social como las pandemias y la guerra nuclear”, dijo el comunicado.

Más de 1000 investigadores y tecnólogos, incluido Elon Musk, que actualmente se encuentra de visita en China , firmaron una carta mucho más larga a principios de este año en la que pedían una pausa de seis meses en el desarrollo de la IA.

La misiva decía que la IA plantea “riesgos profundos para la sociedad y la humanidad”, y algunos involucrados en el tema han propuesto un tratado de las Naciones Unidas para regular la tecnología.

China advirtió ya en 2018 sobre la necesidad de regular la IA, pero, no obstante, ha financiado una gran expansión en el campo como parte de los esfuerzos para aprovechar las ventajas de las tecnologías de vanguardia.

La falta de protección de la privacidad y el control estricto de los partidos sobre el sistema legal también han resultado en el uso casi generalizado de tecnología de reconocimiento facial, de voz e incluso de caminar para identificar y detener a quienes se consideran amenazantes, en particular los disidentes políticos y las minorías religiosas, especialmente los musulmanes.

Los miembros de los uigures y otros grupos étnicos principalmente musulmanes han sido señalados para el monitoreo electrónico masivo y más de 1 millón de personas han sido detenidas en campos de reeducación política similares a prisiones que China llama centros de desradicalización y capacitación laboral.

Los riesgos de la IA se ven principalmente en su capacidad para controlar armas robóticas y autónomas, herramientas financieras y computadoras que rigen las redes eléctricas, los centros de salud, las redes de transporte y otras infraestructuras clave.

El entusiasmo desenfrenado de China por las nuevas tecnologías y la voluntad de jugar con la investigación importada o robada y sofocar las investigaciones sobre eventos importantes como el brote de COVID-19 aumentan las preocupaciones sobre el uso de la IA.

“La actitud alegre de China hacia el riesgo tecnológico, la ambición imprudente del gobierno y la mala gestión de la crisis de Beijing están en curso de colisión con los crecientes peligros de la IA”, escribieron los expertos en tecnología y seguridad nacional Bill Drexel y Hannah Kelley en un artículo publicado esta semana en el Revista Relaciones Exteriores.

KJ