La batalla por la hegemonía internacional no se detuvo con la caída del Reichstag en 1945 o de la Unión Soviética en 1991; simplemente se ha movido en línea. Hoy, los estados y sus actores están librando una guerra fría digital con sistemas de inteligencia artificial en el centro de la lucha. Como dijo el presidente ruso Vladimir Putin en 2017, «quien se convierta en el líder en esta esfera se convertirá en el gobernante del mundo».

En T-menos IA, El primer presidente de Inteligencia Artificial de la Fuerza Aérea de EE. UU, Michael Kanaan, examina el surgimiento de la IA como una herramienta para mantener y expandir el poder del Estado. Rusia, por ejemplo, está impulsando la IA en todos los aspectos de su complejo militar, mientras que China, como puede ver en el extracto a continuación, ha adoptado un enfoque más holístico, con la tecnología infiltrándose prácticamente en todos los estratos de la sociedad china.

Libros BenBella

Extraído con permiso de T-Minus AI: Humanity’s Countdown to Artificial Intelligence and the New Pursuit of Global Power (BenBella Books, 2020)

Con el avance de la tecnología del siglo XXI, el ojo vigilante de la autoridad del Partido Comunista se ha vuelto aún más penetrante. Los métodos digitales de censura, vigilancia y control social se han convertido en partes integrales e inevitables de la sociedad china. Esos métodos proporcionan al Partido Comunista, que esencialmente es el estado, con ojos, oídos e influencia poderosos sobre la mayoría de los aspectos de la vida de sus ciudadanos.

Una vez más, y como se ha dicho, no estoy criticando al propio pueblo chino ni sugiriendo que China esté completamente sola en la vigilancia de su población. Sin embargo, el alcance y el grado sin control en el que China lo está haciendo está mucho más allá de las nociones occidentales de seguridad nacional o de los motivos de control del crimen local para hacerlo.

El estado de vigilancia habilitado por IA que está surgiendo en China es el resultado de la adopción por parte del gobierno de la IA a una velocidad, alcance y escala que es difícil de imaginar. Gran parte de esto es posible gracias al gran tamaño y las características geográficas cambiantes de la propia población china. Como discutimos brevemente en el Capítulo 8, la población total de China de 1.400 millones es la más grande del mundo. Sin embargo, más pertinente para el desarrollo y la aplicación de las aplicaciones de inteligencia artificial en evolución de China es que, por diversas razones de reforma, se están conduciendo enormes concentraciones de la población de China hacia centros urbanos y ciudades masivos y en rápido crecimiento. A partir de 2019, China tiene más de 65 ciudades pobladas por más de un millón de residentes cada una, y el número de tales ciudades supera los 100 cuando se incluyen las áreas metropolitanas. Por el contrario, EE. UU. Tiene solo 11 ciudades con poblaciones que superan el millón. La ciudad más grande de Estados Unidos, Nueva York, tenía una población de 8,6 millones en 2019. En comparación, más de 26 millones de personas viven en el área metropolitana general de Shanghai, la ciudad más grande de China. En total, China tiene siete ciudades significativamente más grandes que Nueva York y 22 ciudades más grandes que Los Ángeles, la segunda metrópolis más poblada de Estados Unidos.

La consolidación de ciudadanos chinos en enormes áreas metropolitanas está creciendo a un ritmo astronómico. En la actualidad, se están construyendo y reubicando cientos de fábricas y centros tecnológicos en áreas concentradas de la ciudad que, juntas, brindan un número incomparable de nuevos empleos y oportunidades para mejorar las habilidades. Más allá de eso, el gobierno está construyendo rápidamente complejos de viviendas y ofreciendo una serie de mejoras y beneficios económicos y de estilo de vida que fomentan y motivan la reubicación masiva. Como resultado de una financiación gubernamental notablemente bien coordinada, planes de ingeniería estratégicos eficientemente y tiempos de construcción ultrarrápidos, se proyecta que para el 2025, China tendrá más de 220 ciudades con una población de un millón o más de personas. En general, el objetivo es que mil millones de personas, un 70 por ciento de la población total de China, vivan en más de 400 ciudades enormes para 2030.

Y no es solo el número de megaciudades chinas lo que merece comparativamente asombro; es el estado avanzado de la tecnología incorporada en ellos y los propósitos a los que se están aplicando esas tecnologías los que merecen la atención del mundo. Para 2018, se habían instalado más de 200 millones de cámaras de circuito cerrado monitoreadas por el gobierno en intersecciones, esquinas de calles, cruces peatonales, parques, áreas de recreación, mercados comerciales, centros comerciales, entradas de edificios de oficinas, museos, atracciones turísticas, lugares de entretenimiento, estadios deportivos, bancos, aparcamientos para bicicletas, terminales de autobuses, estaciones de ferrocarril, muelles de embarque y aeropuertos. Para 2021, se prevé que el número total de cámaras de vigilancia supere los 400 millones, casi una por cada tres ciudadanos chinos. Impulsadas por programas de reconocimiento facial de aprendizaje automático, las cámaras están conectadas directamente con los gobiernos locales, las fuerzas del orden y otras agencias, lo que les brinda a las autoridades la capacidad de identificar a los ciudadanos electrónicamente, rastrearlos y monitorearlos, y compilar perfiles de actividad de individuos específicos y ciudadanos comunes por igual. Los fines razonables de vigilancia policial y prevención del delito podrían justificar, para algunos, el alcance de dicha vigilancia. Pero el uso que hace el gobierno chino de su vasto sistema de cámaras va mucho más allá, al menos desde la perspectiva occidental, de cualquier legitimidad discutible. Si bien el control del crimen, las multas y los arrestos se derivan de lo que muestran las cámaras, también lo hace un amplio alcance del control social impuesto por el gobierno, la vergüenza social y el seguimiento de los ciudadanos. Enormes vallas publicitarias digitales construidas junto a los pasos de peatones, por ejemplo, muestran las fotos y los nombres de las personas que cruzan imprudentemente, reciben multas o tienen multas de estacionamiento pendientes. Como población que se enorgullece de su reputación, la estrategia descarada del gobierno de estigmatizar socialmente a su gente es poderosamente eficaz. Y si bien muchos ciudadanos chinos indudablemente consideran estos aspectos del sistema de vigilancia como un intercambio inevitable, o quizás incluso positivo, por los beneficios que la tecnología les brinda de otra manera, en última instancia no tienen voz en el asunto de todos modos, ni políticamente ni de otro modo.

Leer también  Facebook ya no recomendará grupos de salud

Sin embargo, el seguimiento de las actividades físicas a través de cámaras es solo el comienzo. La influencia y el control de China también se extienden de forma invasiva al uso que las personas hacen de Internet y de sus dispositivos digitales personales. El mercado digital y de Internet de China está controlado principalmente por tres gigantes tecnológicos corporativos: Baidu, Alibaba y Tencent (denominados colectivamente «BAT»). Individualmente, son aproximadamente equivalentes a Google, Amazon y Facebook. Baidu es una empresa china con una presencia y un alcance globales importantes. Con sede en Beijing, se especializa en servicios de Internet e inteligencia artificial, y proporciona el segundo motor de búsqueda más grande del mundo, solo detrás de Google, que ha estado bloqueado en China desde 2010. Alibaba es un enorme conglomerado chino con sede en Hangzhou que se especializa en e -comercio, servicios de internet y tecnología. Y Tencent, discutido anteriormente en el Capítulo 7, es un gigante chino con sede en Shenzhen que se especializa en entretenimiento en Internet, servicios de mensajería social, juegos e inteligencia artificial.

A partir de 2019, Tencent, Alibaba y Baidu se ubicaron como la tercera, quinta y octava empresas de Internet más grandes, respectivamente, en el mundo. Combinados, su poder y alcance son colosales, particularmente con respecto a la IA. Actualmente se estima que más de la mitad de todas las empresas chinas que están involucradas de alguna manera en la investigación, el desarrollo o la fabricación de IA tienen vínculos de propiedad o financiación que se relacionan directamente con una de las tres.

En China, no existe una verdadera separación entre los sectores público y privado, al menos no se acerca en ningún grado al concepto occidental de separación entre gobierno y empresa comercial. Independientemente de la estructura formal de su propiedad, las empresas chinas están sujetas a una influencia directa y por mandato del Partido Comunista. 

Se requiere que sus empresas más grandes, incluidos los grandes gigantes tecnológicos Baidu, Alibaba y Tencent, tengan comités del Partido Comunista dentro de sus organizaciones. Esto le da tanto al partido como al gobierno central la capacidad de obtener e influir en todas las estrategias, investigaciones, propiedad intelectual y datos que generan las empresas. Además, de conformidad con la Ley contra el espionaje de 2014 de China y su Ley de inteligencia nacional de 2017, todas las empresas están formalmente obligadas a «apoyar, ayudar y cooperar» con la red de inteligencia del estado, lo que las hace incapaces de proteger los datos y la información que el gobierno demandas. Volveremos más adelante en este capítulo a las implicaciones que esto tiene en la tecnología china utilizada fuera de sus fronteras.

Leer también  "The Walking Dead: Saints & Sinners" llega a Oculus Quest

Los occidentales a menudo asumen erróneamente que el contenido al que pueden acceder en Internet es esencialmente el mismo que está disponible para los residentes de otros países. Pero eso es totalmente falso, y el control de China de su Internet es uno de los ejemplos más evidentes. A menudo conocido como el Gran Cortafuegos de China, el gobierno no solo bloquea los sitios web que no se ajustan a su contenido y mensajes permitidos, sino que también monitorea sistemáticamente, e incluso administra, el uso de Internet por parte de las personas en general. Muchos chinos eluden la censura del gobierno y las restricciones de accesibilidad iniciando sesión en Internet abierto a través de VPN seguras (redes privadas virtuales) que los conectan a computadoras fuera de China continental. Sin embargo, las VPN son cada vez más difíciles de obtener y los ciudadanos chinos corren el riesgo de sufrir represalias importantes por parte del gobierno si los descubren usando una.

Más allá de censurar y monitorear Internet, China también vigila a sus masas mediante la recopilación de datos de sus dispositivos personales, sobre todo sus dispositivos móviles y las aplicaciones de las que dependen para llevar a cabo sus asuntos diarios. Desde 2015, China ha estado desarrollando un «sistema de crédito social» impulsado por IA que se espera que sea un paraguas unificado y totalmente operativo que cubra a los 1.400 millones de habitantes para 2022. El sistema está destinado a recopilar todas las formas de datos digitales con el fin de para calcular la “confiabilidad social” de los ciudadanos individuales y luego recompensarlos o castigarlos permitiendo o restringiendo diversas oportunidades y derechos en función de sus puntajes. El objetivo formal y declarado públicamente del sistema es «permitir que los dignos de confianza deambulen por todas partes bajo el cielo mientras se dificulta que los desacreditados den un solo paso». Un lema adicional del partido para el sistema es «Una vez desacreditado, limitado en todas partes». Las analogías con la novela de George Orwell 1984, y sus temas de extralimitación del gobierno y la reglamentación del comportamiento social del Gran Hermano son difíciles de negar.

A través de programas de inteligencia artificial integrados en plataformas de Internet y aplicaciones móviles, el sistema de crédito social está destinado a rastrear y recopilar datos relacionados con casi todo lo que hace una persona. En casi todos los aspectos, los ciudadanos chinos orquestan sus vidas a través de sus teléfonos. En general, China se ha convertido en una sociedad sin efectivo y casi todas las transacciones se realizan a través de tecnología digital móvil. La aplicación WeChat de Tencent es casi desconocida fuera de China y el sudeste asiático, pero dentro de China tiene una base de usuarios móviles de más de mil millones de personas. A menudo descrita como la súper aplicación del mundo, WeChat se usa para todo, desde mensajes de texto, audio y video hasta búsquedas de información, compras, banca, finanzas personales y administración de registros médicos. Es una compilación, en una aplicación, de Google, Facebook, Amazon, PayPal, Instagram, Uber y cualquier otra aplicación social y transaccional que se pueda imaginar. En conjunto, proporciona a los ciudadanos chinos un método sencillo para gestionar casi todos los aspectos de sus vidas. Pero también proporciona a las empresas controladas por el estado, los gobiernos locales y el Partido Comunista un medio para analizar los detalles de la vida de los ciudadanos individuales que, según cualquier estándar democrático, nunca sería tolerado.

Las cuentas bancarias chinas están vinculadas directamente a WeChat y las transacciones se realizan mediante pago móvil directo (ahora mediante verificación facial). Los historiales de transacciones y los datos bancarios de los usuarios son accesibles para el proveedor de la aplicación. y, en consecuencia, para el propio gobierno. Incluso en la realización de sus actividades diarias fuera de línea, casi todas las compras se realizan por teléfono. Para compras y pagos de todo tipo, incluidos alimentos de supermercados y restaurantes, bienes y productos en tiendas y mercados minoristas, alquiler de bicicletas y automóviles, boletos de entretenimiento y transporte, hipotecas mensuales, pagos de alquiler de apartamentos, facturas de servicios públicos e incluso impuestos gubernamentales. los pagos se realizan de la misma manera, generalmente escaneando códigos de barras cuadrados bidimensionales, comúnmente llamados códigos QR. Todo ello, que se realiza de forma digital, se puede rastrear de inmediato y se registra para siempre, hace que la información sobre las finanzas individuales, los hábitos de gasto y el estado financiero estén disponibles y sean recopilables por los sistemas que alimentan el cálculo del gobierno de las puntuaciones de «confiabilidad social».

Leer también  Los problemas del servidor de Google sacaron brevemente a Gmail y otros servicios

Y los puntajes de crédito social de los ciudadanos de China no se ven afectados solo por sus actividades en línea, historial de compras y pagos fuera de línea y aparente responsabilidad fiscal. Los comportamientos fuera de línea y no financieros, tanto personales como sociales, en el hogar, el trabajo y la comunidad también se están rastreando y calculando cada vez más. Las ofensas sociales que disminuyen los puntajes de crédito social incluyen fumar en lugares públicos, tocar música a un volumen demasiado alto, enviar mensajes de texto mientras se conduce, consumir drogas, comprar alcohol, estar en estado de ebriedad pública, discutir con los cónyuges, difundir información considerada falsa o inaceptable, abrazar creencias religiosas, holgazanear, tirar basura, e incluso mascotas que caminan sin correa. En esencia, cualquier violación de las normas sociales «aceptables» puede afectar negativamente la puntuación de crédito social.

Como resultado, los ciudadanos chinos pueden encontrarse en la lista negra o restringidos de alguna otra manera para alquilar autos, comprar boletos de tren o avión, obtener tasas de préstamo favorables, adquirir seguros, comprar bienes raíces u obtener viviendas asequibles, realizar inversiones financieras e incluso asistir a escuelas o escuelas preferidas. calificar para ciertos trabajos y oportunidades profesionales. Una vez más, muchos chinos consideran que estas restricciones son intercambios justos por otros beneficios gubernamentales y tecnológicos. Sin embargo, es importante darse cuenta de que la mayoría de la población de China nunca ha tenido la oportunidad de disfrutar de algo que se acerque al tipo de derechos de privacidad que generalmente se esperan y se consideran fundamentales en las sociedades democráticas. Como consecuencia de su larga historia de gobierno autoritario, muchas libertades básicas nunca se han concedido en China como derechos absolutos. Solo se han proporcionado, cuando y en todo caso, de la autoridad del gobierno y solo a cambio de conformidad o silencio social, un quid pro quo. Lo que los ciudadanos de los gobiernos democráticos consideran y exigen como derechos innegables, los ciudadanos chinos solo han disfrutado como compensaciones por comportarse de manera coherente con la ideología del Partido Comunista. Después de todo, este es un gobierno que efectivamente impuso una política de un solo hijo a todas las parejas casadas desde 1979 hasta 2015, aunque, durante algunos de esos años, a las parejas se les permitió tener un segundo hijo, pero solo si el primero era una niña. En cualquier caso, poco pueden hacer los chinos para alterar su realidad. Como ha sido durante mucho tiempo la estrategia del Partido Comunista, la conformidad es la única opción real.

Y así como la tecnología se usa para informar a las autoridades sobre comportamientos no conformistas, ahora también se usa para medir activamente las pruebas de conformidad, en algunos casos mediante el seguimiento del consumo de los ciudadanos de información y propaganda del Partido Comunista leal. A principios de 2019, una aplicación móvil llamada Xuexi Qiangguo fue lanzado por el brazo de publicidad del Partido Comunista que requiere que los usuarios se registren proporcionando sus números de teléfono móvil y nombres completos. Traducido aproximadamente como «estudiar Xi para fortalecer la nación», la aplicación permite los usuarios pueden ganar puntos de «estudio» al iniciar sesión, leer artículos, ver videos y documentales sobre Xi Jinping y realizar cuestionarios de opción múltiple sobre lo que han aprendido sobre las políticas y doctrinas del partido. Después del lanzamiento de la aplicación, se emitieron directivas gubernamentales que instruían al personal del partido (o cuadros) y a los miembros, de los cuales hay 90 millones, que descarguen la aplicación, con fuertes sugerencias de que la usen todos los días para aumentar sus puntos, mostrar su lealtad y ganar beneficios. Xuexi Qiangguo Se convirtió rápidamente en la aplicación más descargada en China y en otra herramienta más de los esfuerzos de información estatal y control social. En poco tiempo, los trabajadores y usuarios de la aplicación se encontraron pasando muchas horas conectados todos los días, sintiéndose obligados por el partido, sus empleadores y colegas a ganar ciertos niveles de puntos. Surgieron informes de que las puntuaciones de los individuos se publicaban como otra forma de causar vergüenza social a quienes no mostraban o no demostraban pruebas suficientes de lealtad al partido e ideales comunistas.