Los cuatro grandes males que las tecnológicas provocan en el mundo

n

Pero parece que al mundo le preocupa cada vez más que los gigantes de la tecnología se estén haciendo con el control del público sin pasar por un proceso democrático. Una muestra de ello tuvo lugar a principios de mes, cuando el Congreso y el Senado de EE. UU. convocaron a los líderes de las principales compañías de tecnología de Silicon Valley (EE. UU.). A esta audiencia debían acudir el CEO de Twitter, Jack Dorsey, la directora de Operaciones de Facebook, Sheryl Sandberg, y el CEO de Alphabet, Larry Page. Pero este último decidió enviar en su lugar un representante de Google, el abogado Kent Walker. El Gobierno no aceptó este cambio y decidió que la silla de Google en la audiencia debía quedar vacía ante la ausencia de Page.

n

De la larga conversación mantenida entre los líderes políticos y tecnológicos de Estados Unidos, se alzan cuatro cuestiones estratégicas que necesitan una respuesta urgente:

n

Asunto 1: Antimonopolio

n

Pregunta clave: ¿Por qué no debería acabarse con su dominio?

n

Antecedentes: la influencia económica de los gigantes tecnológicos y su impacto en otros sectores ha desatado un debate considerable. Los críticos dicen que el control de las tecnológicas en mercados como la publicidad y las búsquedas online daña la competencia (ver Los Cinco Grandes de la economía digital están matando a la economía real). El presidente Trump se ha posicionado en el debate , diciendo que las grandes tecnológicas se encuentran en "una situación muy competitiva". Algunos laboratorios de ideas como el Open Markets Institute han pedido que Facebook sea disuelto, y que sus servicios de Messenger, Instagram y WhatsApp se erijan como compañías independientes (ver "¿En que pensábamos al dejar que Facebook comprara WhatsApp?").

n

Es probable que las empresas tecnológicas se defiendan argumentando que sus servicios son gratuitos o increíblemente baratos. Afirmarán que evidentemente no están perjudicando a los consumidores, algo clave para la política antimonopolio de EE. UU. Sin embargo, tanto el Departamento de Justicia como la Comisión Federal de Comercio del país han avisado de que van a analizar a los gigantes más de cerca. La posición de Europa está resultando más firme, como demostró a principios de año cuando multó a Google con más de 4.300 millones de euros por cuestiones de monopolio.

n

Si le interesa el tema, consulte este análisis en profundidad: Ha llegado la hora de controlar a los tres gigantes de los datos.

n

Asunto 2: Sesgos políticos

n

Pregunta clave: ¿Cómo pueden las redes sociales garantizar que la información que distribuyen es precisa y veraz, y evitar la difusión de contenidos orientados a favorecer a una ideología particular?

n

Antecedentes: hay que sacar a los usuarios de la "burbuja del filtros", un concepto similar a una cárcel que encierra a las personas en contenidos que refuerzan las ideas que ya tienen en lugar de impulsarles  a tener una visión más amplia con información precisa y veraz (ver El hombre que intenta sacarnos de la 'cárcel' de filtros de Youtube). Pero las cosas se complican, dado que la "precisión y veracidad" para una persona pueden ser "noticias falsas" para otra.

n

Si le interesa el tema, consulte este análisis en profundidad: Cómo arreglar la burbuja de filtros que nos encierra en una 'cárcel de opinión'

n

Asunto 3: La caja negra de la inteligencia artificial

n

Pregunta clave: ¿Cómo podemos asegurarnos de que los algoritmos que usan las tecnológicas son justos y ecuánimes?

n

Antecedentes: la inteligencia artificial (IA) se usa cada vez más para tomar decisiones de todo tipo, desde identificar posibles tratamientos médicos para pacientes hasta ayudar a la policía a determinar dónde desplegar a los oficiales. Y las grandes compañías tecnológicas están a la vanguardia en el desarrollo de algoritmos que cada vez tienen más impacto en nuestras vidas. El peligro es que estos algoritmos podrían incorporar sesgos ocultos que influyen en los resultados (ver Google advierte: el verdadero peligro de la IA no son los robots asesinos sino los algoritmos sesgados).

n

Muchos políticos estarán muy concienciados con este tema, después de un episodio reciente en el que algunos legisladores fueron confundidos con delincuentes en un juicio llevado a cabo por la Electronic Frontier Foundation que utilizó la inteligencia artificial de análisis de imágenes Rekognition de Amazon.

n

Es necesario averiguar cómo las grandes compañías tecnológicas pretenden protegerse (y a nosotros) contra el sesgo algorítmico, y definir en qué medida permitirán que sus algoritmos sean inspeccionados en busca de señales de injusticia. Aparte del debate sobre el sesgo, Google también se enfrenta al problema de trabajo con las fuerzas armadas en aplicaciones de inteligencia artificial, un tema que ha despertado una considerable controversia dentro de la empresa.

n

Si le interesa el tema, consulte este análisis en profundidad: Unámonos para evitar la discriminación de los algoritmos que nos gobiernan

n

Asunto 4: IA y noticias falsas

n

Pregunta clave: Los vídeos falsos (deepfakes) creados con IA pueden engañarnos para hacernos pensar que los políticos hicieron o dijeron cosas que nunca sucedieron. ¿Cómo pueden las tecnológicas ayudar a los usuarios a identificar lo que es real y lo que no?

n

Antecedentes: las redes generativas antagónicas, o GAN, y otras técnicas avanzadas de IA pueden crear vídeos y audios falsos que parecen inquietantemente reales. Si se hacen bien, el resultado puede dar lugar a un audio incrustado en la boca de un político o un vídeo que le señala haciendo cosas que nunca ha hecho (ver La tecnología para manipular contenidos amenaza con devolvernos a las noticias del siglo XX).

n

Si le interesa el tema, consulte este análisis en profundidad: Crear noticias falsas, al alcance de cualquiera gracias a la IA

n

Pero más allá de estos cuatro asuntos estratégicos, la cuestión fundamental es cómo abordar la amenaza que la tecnología plantea a la democracia. Como ya hemos señalado en artículos previos, la IA y algunas de sus técnicas, como las GAN y el aprendizaje profundo, están cambiando la política de forma impredecible y potencialmente desastrosa (ver OFERTA: Manipule a los votantes con noticias falsas por menos de 400.000 euros).

n

La tecnología y las empresas que la crean deben ser parte de la solución, pero lo que realmente hace falta es un debate social más profundo sobre cómo debemos prepararnos para un mundo en el que no se garantiza la verdad y la libertad para triunfar. Interrogar repetidamente a los gigantes de Silicon Valley no será suficiente para resolver los males de la democracia.

n