Las olas que vienen
Mustafá Suleyman, cofundador de DeepMind —una de las compañías más importantes en inteligencia artificial (IA)—, escribió The Coming Wave, un libro en donde explora el impacto de dos tecnologías clave del presente: la IA y la Biotecnología (B). los avances tecnológicos han permitido que las ciencias de la vida y la IA converjan de tal manera que eso preludia grandes avances, pero también de peligros para el desarrollo de la misma humanidad.
The Coming Wave comenta cómo pueden afectar ambas tecnologías emergentes, cómo la IA y la biología sintética trastocan el futuro de la humanidad. Suleyman, que también fuera vicepresidente de Google, argumenta que la combinación de ambas dará lugar a una nueva era para la humanidad, generando riqueza y excedentes como nunca antes en la historia humana. Sin embargo, también advierte que su rápida proliferación podría empoderar a actores malintencionados y desencadenar perturbaciones y catástrofes a gran escala.
A lo largo del texto, Suleyman explora una variedad de riesgos asociados con la convergencia de la IA y la B. Para él, la IA y las ciencias de la vida han llegado a una escala de desarrollo que demanda poner una atención adecuada, ya que el riesgo que implican su uso libre —como ya sucede incluso en el caso de la B con la manipulación del ADN en sótanos o garajes — es muy grande.
Algunos de los peligros que advierte para el caso de la IA son: pérdida de control; la posibilidad de que sistemas altamente avanzados se vuelvan tan complejos y autónomos que escapen al control humano, tomando decisiones que podrían derivar en consecuencias catastróficas; el riesgo de que los objetivos de la IA no estén en consonancia con los valores humanos, lo que podría llevar a la IA a tomar acciones que dañen a la humanidad; la preocupación de que la IA amplíe la brecha entre ricos y pobres, concentrando el poder y los recursos en manos de unos pocos; riesgos sociales como desempleo masivo; la IA puede perpetuar y amplificar los sesgos presentes en los datos con los que son entrenados, lo que podría dar paso a discriminación y desigualdad; el uso de la IA para vigilancia masiva daría paso a la erosión de la privacidad individual y limitar las libertades civiles; la IA podría utilizarse para crear y difundir desinformación a gran escala, manipulando la opinión pública y socavando la democracia.
A lo largo de los 14 capítulos que conforman la obra, Suleyman profundiza en la convergencia de la B con la IA, la cual podría dar lugar a una serie de desafíos y riesgos, entre los que destacan: bioterrorismo: la posibilidad de que agentes malintencionados usen herramientas de edición genética para crear patógenos altamente letales o resistentes a los antibióticos; desigualdad en el acceso a la salud, ya que el desarrollo de nuevas terapias genéticas y biológicas podría aumentar la brecha entre ricos y pobres, derivado de que estas tecnologías podrían ser inicialmente inaccesibles para la mayoría de la población; impactos ambientales no intencionales como la liberación accidental o intencional de organismos genéticamente modificados, que podría tener consecuencias impredecibles para los ecosistemas; cuestiones éticas: la edición del genoma humano plantea una serie de preguntas éticas complejas, como la posibilidad de crear «bebés de diseño» o de alterar la evolución humana.
Para el autor uno de los aspectos que define a ambas tecnologías es la aceleración del cambio, permitiendo mayor interconexión entre personas y sociedades a nivel mundial, facilitar la modificación de genes y manipulación del ADN. Suleyman argumenta que esas tecnologías no son solo el resultado de avances científicos aislados, sino el producto de una larga evolución que ha transformado profundamente nuestra sociedad, pero que gracias a la IA ambas pueden alcanzar niveles no maginados en el cercano pasado.
Punto central del libro es el problema de la «contención», la cual se refiere a la tarea y voluntad de mantener el control sobre ambas tecnologías poderosas. Suleyman hace un llamado a los líderes mundiales, científicos, desarrolladores, y sociedad en general, a involucrarse en el desarrollo de ambas tecnologías, ya que es necesario actuar con firmeza para asegurar que ambas se usen para el bien común. Apela a la necesidad de una gobernanza global; dado el carácter transnacional de la B y la IA, es necesario establecer acuerdos internacionales para garantizar su desarrollo seguro y responsable; la importancia de la educación y la participación pública: es fundamental que la sociedad en su conjunto esté informada sobre los riesgos y beneficios de la B para poder tomar decisiones informadas; la colaboración entre científicos, ingenieros, políticos y la sociedad civil con el fin de abordar los desafíos planteados por la B.
A pesar de que el libro identifica los desafíos por venir y el papel que juegan ambas tecnologías, para muchos los aspectos abordados pueden sonar a ciencia ficción, o cuestiones que sólo son insumos para el debate entre especialistas, no se puede soslayar el debate que ha generado sobre el futuro de la tecnología y la humanidad, lo que es indicativo que es un tema no confinado a un nicho. Lo que está claro es que la IA y las llamadas ciencias de la vida son los dos desafíos principales que enfrentará en el devenir la humanidad. La convergencia de ambas en aspectos como la secuenciación del ADN, la edición genética y la creación de nuevos productos genéticos, abren el camino para reflexionar las necesidades de regulación de ambos campos de desarrollo, aunque entendiendo que la regulación no es la panacea ni tampoco que sea la mejor manera de hacer que ambas tecnologías avancen de mejor manera.
Asimismo, el autor refiere que el riesgo que puede tener la regulación de ambas disciplinas, IA y B, es que países que no tienen mecanismos de contrapeso sólidos para advertir sobre sus efectos y malas prácticas, para frenar los avances de la mismas cuando se considere que afecta el interés colectivo o los derechos humanos, como en naciones gobernadas por autócratas, que no son nada transparentes con el desarrollo científico y tecnológico, como es el caso de China, es que puedan despegarse y dejar rezagados a Estados Unidos y la potencias occidentales. Por eso la regulación tiene que ser sumamente calibrada.
Por último hay que referir que si bien es cierto que Suleyman aborda en su obra una serie de tópicos, de aristas, que ya han sido abordadas profundamente desde un ángulo apocalíptico por la narrativa de ciencia ficción, por el periodismo o la misma cinematografía, lo interesante en este caso es que advierta sobre los peligros que entrañan tales tecnologías sea un destacado desarrollador, investigador y empresario dedicado a la IA, pero que en ningún momento se puede advertir un enfoque apocalíptico en su trabajo. Pero, además, The Coming Wave refiere que a pesar de que se enarbolen los vientos antiglobalización y pululen las propuestas proteccionistas, de nearshoring, lo cierto es que la globalización de ambas tecnologías, de sus derivados, será imposible de detener.
*@tulios41
Foto: @mustafasuleyman
