IA: ¿nos llevará a la extinción o nos llevará a una nueva era de prosperidad?
La conversación sobre inteligencia artificial parece haberse dividido en dos grandes futuros posibles.
Por un lado están los catastrofistas, que advierten que el desarrollo de una inteligencia artificial capaz de superar ampliamente las capacidades humanas podría terminar amenazando nuestra propia existencia. En el otro extremo están los aceleracionistas, que consideran que avanzar rápidamente hacia sistemas cada vez más capaces podría abrir una etapa de abundancia, productividad y progreso sin precedentes.
Una visión promete que las máquinas podrían resolver algunos de los problemas más difíciles de la humanidad. La otra advierte que esas mismas capacidades podrían terminar volviéndose contra nosotros.
Aunque parecen posiciones completamente opuestas, ambas comparten una premisa que merece ser cuestionada: que el futuro de la inteligencia artificial está prácticamente determinado por la propia tecnología.
La realidad es bastante más compleja.
El origen de la tesis catastrófica
La preocupación por una inteligencia artificial fuera de control no comenzó con ChatGPT.
Mucho antes del actual auge de la IA generativa ya existían investigadores dedicados a estudiar los riesgos asociados a sistemas que pudieran superar las capacidades humanas. El Machine Intelligence Research Institute (MIRI), creado en el año 2000, comenzó a concentrarse posteriormente en los llamados riesgos existenciales de la inteligencia artificial.
A partir de estas ideas se desarrolló una corriente de pensamiento que plantea un problema fundamental: si algún día construimos una inteligencia mucho más capaz que nosotros, ¿podremos garantizar que sus objetivos sean compatibles con los intereses humanos?
Este es el denominado problema de alineamiento.
La preocupación comenzó a ganar mayor visibilidad cuando figuras como Elon Musk, Stephen Hawking, Bill Gates y destacados investigadores de IA empezaron a advertir sobre los posibles riesgos de una futura superinteligencia.
En 2015, un grupo de especialistas y empresarios tecnológicos firmó una declaración que planteaba una idea sencilla pero trascendente: los sistemas de inteligencia artificial deberían hacer lo que sus desarrolladores y usuarios esperan que hagan.
Años después, el debate adquirió un tono mucho más urgente.
En 2023, una carta abierta pidió detener durante al menos seis meses el entrenamiento de sistemas de IA más potentes que GPT-4. Poco después, otra declaración planteó que reducir el riesgo de extinción provocado por la IA debía convertirse en una prioridad mundial, situándolo junto a amenazas como las pandemias y una guerra nuclear.
La discusión ya no se limitaba a escenarios hipotéticos de ciencia ficción. La posibilidad de que una inteligencia artificial avanzada pudiera desarrollar capacidades difíciles de controlar comenzó a ocupar un lugar central en el debate tecnológico.
¿Qué temen realmente los catastrofistas?
La tesis catastrófica no sostiene necesariamente que una IA vaya a desarrollar odio hacia los humanos.
El problema es otro.
Una inteligencia artificial suficientemente avanzada podría perseguir un objetivo determinado de una manera que resulte incompatible con nuestros intereses. Si además cuenta con capacidad para tomar decisiones, utilizar herramientas, modificar estrategias y operar con poca supervisión, un error de alineamiento podría tener consecuencias difíciles de controlar.
El escenario extremo sería una inteligencia artificial capaz de mejorar sus propias capacidades a una velocidad superior a la capacidad humana para supervisarla.
Es precisamente esta posibilidad la que autores como Eliezer Yudkowsky y Nate Soares consideran una amenaza existencial. Su posición es radical: si se desarrolla una superinteligencia sin resolver previamente el problema de alineamiento, las consecuencias podrían ser irreversibles.
Sin embargo, existe una diferencia importante entre identificar un riesgo potencial y demostrar que ese escenario ocurrirá.
Hasta ahora no existe evidencia científica que permita afirmar que una superinteligencia autónoma vaya a aparecer inevitablemente, ni mucho menos que su existencia implique necesariamente la extinción humana.
De hecho, una encuesta citada en los textos de referencia señala que el 76% de 475 académicos y profesionales de la IA consideraba improbable o muy improbable la aparición de una superinteligencia.
Eso no significa que el riesgo deba ignorarse. Significa que todavía estamos hablando, en buena medida, de un escenario especulativo.
La otra cara: la IA como camino hacia la abundancia
En el extremo opuesto encontramos a quienes consideran que frenar el desarrollo de la IA sería un error.
La visión aceleracionista parte de una premisa diferente: si conseguimos construir sistemas cada vez más capaces, podríamos aumentar radicalmente nuestra capacidad para resolver problemas.
La IA podría acelerar el descubrimiento de medicamentos, mejorar procesos industriales, optimizar sistemas energéticos, aumentar la productividad y automatizar una enorme cantidad de tareas.
Uno de los cambios más importantes podría producirse en el mundo laboral.
Durante siglos, las máquinas han sustituido principalmente tareas físicas. La inteligencia artificial introduce algo diferente: la posibilidad de automatizar determinadas tareas cognitivas.
Redacción, análisis de información, programación, traducción, investigación, atención al cliente y múltiples procesos administrativos ya pueden incorporar sistemas de IA.
Para sus defensores, esto no necesariamente significa desempleo masivo. La expectativa es que las personas puedan dedicar menos tiempo a tareas repetitivas y más a actividades creativas, estratégicas o humanas.
En su versión más optimista, la IA permitiría producir más utilizando menos recursos y reduciría progresivamente la cantidad de trabajo necesario para mantener determinados niveles de bienestar.
De ahí surge una de las grandes promesas de esta tecnología: una sociedad con mayor productividad y más tiempo disponible para las personas.
El problema de las dos promesas
A primera vista, las dos posiciones parecen incompatibles.
Una dice:
“La IA podría destruirnos.”
La otra:
“La IA podría liberarnos.”
Pero existe una coincidencia mucho más profunda entre ambas.
Las dos tienden a presentar el futuro de la inteligencia artificial como algo inevitable.
Los aceleracionistas pueden asumir que una superinteligencia llegará y solucionará problemas que hoy parecen irresolubles.
Los catastrofistas pueden asumir que esa misma superinteligencia llegará y, tarde o temprano, escapará de nuestro control.
En ambos casos aparece una especie de determinismo tecnológico: la idea de que la tecnología tiene una trayectoria propia y que la humanidad simplemente tendrá que adaptarse a ella.
Y ahí es donde la discusión puede desviarse.
La IA no tiene un destino escrito
Hablar de una inteligencia artificial que “quiere”, “decide”, “busca” o “pretende” algo puede ser útil para explicar determinados comportamientos, pero también puede llevarnos a atribuirle una autonomía que no necesariamente posee.
Los modelos actuales son sistemas creados, entrenados y desplegados por personas y organizaciones.
Detrás de cada modelo existen decisiones sobre datos, arquitectura, objetivos, infraestructura, permisos, niveles de acceso, mecanismos de seguridad y condiciones de uso.
Incluso cuando un sistema puede ejecutar acciones de manera autónoma, esa autonomía ocurre dentro de un marco que alguien diseñó.
Por eso, una pregunta más útil que “¿la IA nos va a matar?” es:
¿Qué capacidades estamos construyendo, quién las controla y bajo qué condiciones se están desplegando?
La misma tecnología que puede automatizar una tarea también puede utilizarse para automatizar un ataque.
La misma IA que puede ayudar a descubrir una vulnerabilidad puede utilizarse para explotarla.
Un agente capaz de optimizar procesos empresariales también podría ejecutar acciones no deseadas si cuenta con permisos excesivos o si sus objetivos no están correctamente definidos.
El riesgo, por tanto, no depende únicamente de cuánto “inteligente” sea un sistema.
Depende también de qué puede hacer, a qué información puede acceder, qué herramientas puede utilizar y qué controles existen alrededor de él.
Los riesgos ya no necesitan esperar a la superinteligencia
Existe una paradoja importante en el debate.
Mientras parte de la conversación pública se concentra en una hipotética IA capaz de acabar con la humanidad dentro de unos años, existen problemas mucho más inmediatos que ya requieren atención.
Los sistemas de IA pueden generar información falsa, facilitar campañas de fraude y suplantación, automatizar ataques, amplificar vulnerabilidades, producir contenido engañoso o tomar decisiones equivocadas.
La incorporación de agentes capaces de ejecutar múltiples acciones también está modificando el escenario de seguridad.
Un sistema que no solo responde preguntas, sino que puede consultar información, utilizar herramientas, interactuar con otros sistemas o ejecutar tareas automáticamente, introduce una superficie de riesgo diferente.
Aquí no necesitamos esperar a una superinteligencia.
Basta con que una IA tenga demasiados permisos, objetivos mal definidos o controles insuficientes.
Para las organizaciones, este es probablemente uno de los aspectos más relevantes del debate actual.
¿Y qué ocurre con la promesa de liberar a las personas del trabajo?
También conviene mirar con cautela la tesis de la abundancia.
Que una tecnología pueda automatizar determinadas tareas no significa automáticamente que la sociedad vaya a trabajar menos ni que los beneficios se distribuyan de manera equitativa.
La productividad adicional puede traducirse en jornadas laborales más cortas, pero también puede utilizarse para aumentar la producción, reducir costos o reemplazar determinados puestos.
El resultado no está determinado por el algoritmo.
Depende de decisiones empresariales, políticas públicas, legislación laboral, distribución de beneficios y capacidad de las personas para adaptarse a los cambios.
La IA puede convertirse en una herramienta para aumentar las capacidades humanas, pero eso requiere que su implementación esté acompañada de formación, supervisión y criterios claros sobre dónde y cómo utilizarla.
La pregunta no debería ser solamente cuántos trabajos puede automatizar la IA, sino también qué tipo de trabajo queremos construir cuando determinadas tareas dejan de requerir intervención humana.
Entre el apocalipsis y la utopía existe un tercer escenario
Probablemente el futuro de la inteligencia artificial no se parezca completamente a ninguno de los dos extremos.
No necesitamos asumir que una superinteligencia inevitablemente acabará con la humanidad para reconocer que existen riesgos que deben gestionarse.
Tampoco necesitamos creer que la IA solucionará automáticamente nuestros problemas para aprovechar sus beneficios.
Existe una tercera posibilidad: que la IA se convierta en una tecnología extraordinariamente poderosa cuyo impacto dependerá de las decisiones que tomemos mientras la desarrollamos y desplegamos.
Desde una perspectiva de ciberseguridad, esto implica cambiar el foco.
La pregunta no es únicamente si un modelo es más inteligente que otro.
También debemos preguntarnos:
¿Qué información puede consultar?
¿Qué sistemas puede controlar?
¿Qué permisos tiene?
¿Puede ejecutar acciones sin aprobación humana?
¿Cómo se supervisa su comportamiento?
¿Qué ocurre cuando comete un error?
¿Cómo se detecta una actividad anómala?
¿Existe un mecanismo para detenerlo?
¿Quién responde cuando una decisión automatizada provoca un incidente?
Estas preguntas son mucho menos espectaculares que imaginar una máquina tomando el control del planeta.
Pero son mucho más útiles para las organizaciones que ya están incorporando IA.
La verdadera discusión no es IA sí o IA no
El debate entre catastrofistas y aceleracionistas puede ser útil porque obliga a pensar en las consecuencias de desarrollar sistemas cada vez más capaces.
El problema aparece cuando cualquiera de las dos posiciones se transforma en una certeza.
La IA no es automáticamente nuestra salvación ni nuestra condena.
Es una tecnología que está aumentando rápidamente las capacidades disponibles para personas, empresas y gobiernos. Y cuanto mayores sean esas capacidades, mayor será también la importancia de establecer límites, controles y mecanismos de seguridad adecuados.
Por eso, la discusión sobre inteligencia artificial debería abandonar la falsa elección entre “la IA nos salvará” y “la IA nos destruirá”.
La pregunta más importante es otra:
¿Estamos construyendo sistemas suficientemente poderosos como para cambiar nuestra sociedad sin construir al mismo tiempo los mecanismos necesarios para controlarlos?
Para las empresas, esta cuestión ya no pertenece al futuro.
La incorporación de IA requiere revisar accesos, permisos, protección de información, supervisión de agentes, gestión de vulnerabilidades y protocolos de respuesta frente a comportamientos inesperados.
Porque independientemente de si la tesis del apocalipsis o la de la abundancia termina acercándose más a la realidad, existe una certeza mucho más inmediata: la inteligencia artificial ya está cambiando la superficie de riesgo de las organizaciones.
Y prepararse para ese escenario no requiere esperar a que llegue una superinteligencia.
En Lockbits podemos ayudarte a evaluar y fortalecer la seguridad de tu organización frente a los nuevos riesgos asociados al uso de inteligencia artificial.
Conoce nuestras soluciones en lockbits.cl/contacto/