¿Es la superinteligencia de la inteligencia artificial inevitable? El investigador David Krueger, especializado en seguridad de la inteligencia artificial (IA), dice que no tiene por qué ser así. Krueger, profesor asistente de la Universidad de Montreal y fundador de la organización sin fines de lucro Evitable, advierte que “necesitamos mitigar el riesgo de extinción [humana]” mediante regulaciones y moratorias que detengan el desarrollo de la capacidad y la complejidad computacional de la IA, la cual considera que avanza a un ritmo mucho más rápido del que los niveles actuales de supervisión humana pueden manejar. Krueger señala que las declaraciones públicas de las empresas de IA de que sus modelos han eludido las restricciones de los entornos de prueba y han hackeado otros sistemas son “algo esperable dada la forma en que se está desarrollando la IA, la poca comprensión que tenemos y lo primitivas que son nuestras técnicas para controlarla” y añade: “Simplemente no sabemos cómo desarrollarla de manera segura. Punto y aparte”.
Para ver la entrevista completa en inglés, haga clic aquí.
Inicio