Las recomendaciones piden tanto a los creadores de la tecnología (por ejemplo, OpenAI) como a los creadores y distribuidores de medios sintéticos creados digitalmente (BBC y TikTok), que sean más transparentes sobre qué puede o no hacer la tecnología, y que revelen cuándo un usuario puede estar interactuando con este tipo de contenidos.
nEstas recomendaciones voluntarias fueron elaboradas por Partnership on AI (PAI, por sus siglas en inglés), una organización sin ánimo de lucro dedicada a la investigación de la IA que consultó a más de 50 organizaciones. Entre los socios de PAI figuran grandes empresas tecnológicas y organizaciones académicas, sociales y de los medios de comunicación. Las diez primeras empresas que se han comprometido a seguir las recomendaciones son: Adobe, BBC, CBC/Radio-Canada, Bumble, OpenAI, TikTok, Witness y las empresas de medios sintéticos Synthesia, D-ID y Respeecher.
n"Queremos asegura os de que los medios sintéticos no se utilicen para perjudicar, restar poder o privar de derechos, sino para apoyar la creatividad, el intercambio de conocimientos y los comentarios", afirma Claire Leibowicz, responsable de IA e integridad de los medios de PAI.
nUno de los aspectos más importantes de estas directrices es un pacto entre las empresas para incluir e investigar formas de indicar a los usuarios que están interactuando con contenido generado por IA. Esto podría incluir marcas de agua o descargos de responsabilidad, así como elementos rastreables en los datos de entrenamiento o metadatos de un modelo de IA.
nLa normativa que intenta frenar los daños potenciales relacionados con la IA generativa aún tardará. La Unión Europea, por ejemplo, está intentando incluir la IA generativa en su próxima ley sobre inteligencia artificial. La normativa podría incluir aspectos como la obligación de informar a los usuarios cuando interactúen con deepfakes y de que las empresas cumplan ciertos requisitos de transparencia.
nHenry Ajder, experto en IA generativa que ha colaborado en la elaboración de las directrices, afirma que, aunque la IA generativa es un salvaje Oeste en estos momentos, también espera que ofrezca a las empresas aspectos clave a tener en cuenta para incorporar esta tecnología a sus negocios. Para Hany Farid, profesor de la Universidad de Califo ia en Berkeley e investigador de los medios sintéticos y los deepfakes, es importante concienciar e iniciar un debate sobre formas responsables de pensar en los medios sintéticos. Sin embargo, "las directrices y principios voluntarios rara vez funcionan", añade Farid.
nMientras empresas como OpenAI intentan acotar las tecnologías que crean, como ChatGPT y DALL-E, otros actores que no forman parte del pacto, como Stability.AI, pueden permitir que los usuarios generen imágenes inapropiadas y deepfakes. Stability.AI es la startup que creó el modelo Stable Diffusion, una IA de código abierto que genera imágenes.
n"Si queremos abordar estos problemas, tenemos que pone os serios", afirma Farid. Por ejemplo, sugiere que los proveedores de servicios en la nube y las tiendas de aplicaciones como Amazon, Microsoft, Google y Apple, que forman parte de la PAI, prohíban los servicios que permiten utilizar la tecnología deepfake con intención de crear imágenes sexuales no consentidas. Las marcas de agua en todos los contenidos generados por IA también deberían ser obligatorias en lugar de voluntarias, asegura Farid.
nIlke Demir, investigadora científica sénior de Intel, dirige el trabajo de la empresa sobre el desarrollo responsable de la IA generativa y afirma que otro aspecto importante que echa en falta es cómo hacer que los propios sistemas de IA sean más responsables. Esto podría incluir más detalles sobre cómo se entrenó el modelo de IA, qué datos se introdujeron en él y si los modelos de IA generativa tienen algún sesgo.
nLas directrices no mencionan la garantía de que no haya contenido tóxico en el conjunto de datos de los modelos generativos de IA. "Es una de las formas más significativas de provocar daño que tienen estos sistemas ", afirma Daniel Leufer, analista político del grupo de derechos digitales Access Now.
nLas directrices incluyen una lista de perjuicios que estas empresas quieren evitar, como el fraude, el acoso y la desinformación. Pero un modelo de IA generativa que siempre crea personas blancas también provoca daños, aunque ese perjuicio no figura en la lista, añade Demir. Por su parte, Farid plantea una cuestión más fundamental. Dado que las empresas reconocen que la tecnología podría acarrear algunos daños graves y ofrece formas para mitigarlos, "¿por qué no se plantean la pregunta: «¿deberíamos siquiera hacer esto en primer lugar?»".
n