Líderes de la industria plantean moderar el desarrollo de la inteligencia artificial, mientras especialistas advierten que la seguridad y los mecanismos de control deben avanzar al ritmo de las nuevas capacidades tecnológicas.
¿Puede frenarse la IA? Expertos analizan la “singularidad” y los límites de una desaceleración global
Por Camilo Vega Martínez
RadioUChile, 28 de setiembre, 2026.- La idea de que el desarrollo de la inteligencia artificial (IA) pueda escaparse de la capacidad humana para anticipar sus alcances dejó de ser ciencia ficción. El concepto de “singularidad“, utilizado para describir un hipotético momento en el que sistemas suficientemente avanzados puedan acelerar su propia mejora y desencadenar un cambio tecnológico difícil de predecir, volvió al centro del debate tras declaraciones de personas involucradas con el avance de la herramienta, entre ellos, el CEO de OpenAI, Sam Altman.
Altman ha sostenido que la humanidad ya habría cruzado el “horizonte de eventos” hacia una singularidad tecnológica, aunque esto no equivale a afirmar que ese momento haya llegado. La distinción resulta clave: la tesis apunta a que la IA habría comenzado un proceso de aceleración difícil de revertir, en un contexto donde sus sistemas adquieren capacidades cada vez mayores para participar en investigación, programación y desarrollo de nuevos modelos.
El debate adquirió todavía más fuerza durante las últimas semanas ante los llamados de líderes de la industria a “acompasar”, es decir moderar o ajustar, el avance de los modelos de frontera y aumentar las medidas de seguridad.
Prototipo de cabeza robótica exhibida por el Centro Nacional De Inteligencia Artificial (CENIA) en la actividad “Inteligencia artificial al servicio de las personas”. Foto: Javier Salvo/Aton Chile.
Sin embargo, entre especialistas existe cautela frente a la posibilidad de afirmar que la singularidad ya está aquí. Diego Fuentealba, ingeniero en Ejecución en Computación y académico del Departamento de Contabilidad de la Universidad de Santiago, pone el acento precisamente en la diferencia entre aceleración y singularidad.
“En muy pocos años pasamos de modelos que escribían textos simples a modelos que programan, razonan y analizan imágenes. Incluso ya se usan para ayudar a desarrollar la propia IA”, explica en conversación con Radio Universidad de Chile. Pero establece una frontera: “La singularidad es otra cosa. Es que la IA se mejore a sí misma tan rápido que ya no podamos anticipar lo que viene, y hoy no hay evidencia de eso. Hay aceleración, pero los humanos seguimos al volante”.
Esa falta de evidencia también constituye el punto de partida de Claudia López, académica de la Iniciativa de Datos e Inteligencia Artificial (IDIA) y del Departamento de Ciencias de la Computación (DCC) de la Facultad de Ciencias Físicas y Matemáticas de la Universidad de Chile. Su reparo no se limita a cuestionar que hayamos alcanzado la singularidad. Apunta a un problema anterior: cuánto sabemos realmente sobre lo que ocurre dentro de los laboratorios que desarrollan los modelos más avanzados.
Sam Altman.
“La evidencia que tenemos hoy día, de lo que está pasando con la inteligencia artificial de frontera es muy escasa, y es producto de lo que las corporaciones que están desarrollando esta IA que se llama de frontera deciden contarnos”, advierte tras ser consultada por nuestro medio.
A su juicio, antes de determinar cuánto falta para ese hipotético punto, resulta necesario resolver el déficit de información independiente sobre los modelos más poderosos. “Me parece que lo importante en este momento es relevar la falta de transparencia que hay respecto de lo que está pasando con la inteligencia artificial de frontera de parte de las grandes corporaciones“, expresa.
Tomás Vera, director de Zenta Group y asesor científico de Congreso Futuro, coincide en que todavía no existen elementos suficientes para declarar que ese umbral se haya cruzado, pero introduce otro problema: ni siquiera existe una definición operacional universal que permita comprobarlo.
“No diría que ya hemos llegado. La singularidad carece de una definición operativa que permita comprobarla. Lo que sí vemos es una aceleración concreta”, plantea en diálogo con nuestro medio.
Congreso sobre Inteligencia Artificial, Derechos y Creación.
Para Vera, parte de esa aceleración puede observarse en sistemas capaces de automatizar ciclos que antes dependían directamente de investigadores. “En nuestro trabajo de auto-research, inspirado en Andrej Karpathy, un ciclo automatizado propone cambios, los prueba y conserva o descarta resultados en hardware local”, explica.
La relevancia de estos experimentos no radica, según su análisis, en demostrar que exista una inteligencia capaz de mejorar indefinidamente por sí misma, sino en mostrar que determinadas partes del proceso de investigación ya pueden automatizarse.
Por lo tanto, el asesor científico sostiene que la interrogante inmediata no debería concentrarse en asignar una fecha a la singularidad: “La pregunta decisiva no es si hemos cruzado un umbral llamado singularidad, sino cómo gobernamos una aceleración que sigue siendo parcial y poco fiable”.
Entre la aceleración y la pérdida de control
La discusión cambia cuando la pregunta deja de ser si la singularidad ocurrió y pasa a ser qué sucedería si los sistemas comenzaran a intervenir cada vez más en su propio desarrollo.
Los tres especialistas establecen diferencias entre ese escenario y la situación actual. Fuentealba expone que la mejora recursiva capaz de producir una aceleración imposible de anticipar continúa en el terreno hipotético, aunque considera que hoy se discute con mayor seriedad que hace una década.
Al mismo tiempo, advierte que existen escenarios intermedios que no requieren llegar a una singularidad para representar un problema. “Hay otros que todavía son hipotéticos pero que vale la pena investigar. Por ejemplo, una IA capaz de ejecutar un ciberataque complejo casi sin intervención humana“, afirma.
Imagen referencial ciberataque. Foto: Agencia Aton.
Vera también identifica los ciberataques entre los escenarios que merecen atención, junto con “los errores de agentes conectados a sistemas reales y el posible uso indebido de la IA en biología”. Su preocupación se concentra en sistemas con autonomía y acceso a herramientas, debido a que un error puede abandonar el espacio de una conversación y producir consecuencias sobre entornos externos.
“No hace falta presentar una catástrofe como inevitable para exigir controles rigurosos”, enfatiza.
Claudia López, en tanto, plantea que incluso la división entre amenazas futuras y problemas actuales puede resultar engañosa si termina por establecer una competencia entre riesgos. Según explica, existen indicios que justifican estudiar qué ocurre cuando los agentes reciben mayor autonomía, pero eso no debería desplazar otros problemas asociados al desarrollo de la IA.
“Hay cierta evidencia de que se está perdiendo el control de lo que pueden hacer estos agentes. Eso es súper complejo, es un riesgo importante“, señala. Sin embargo, rechaza que eso obligue a escoger entre el peligro de una IA fuera de control y aquellos derivados de decisiones humanas.
“Hay cierta evidencia de que se está perdiendo el control de lo que pueden hacer estos agentes. Eso es súper complejo, es un riesgo importante“, señala. Sin embargo, rechaza que eso obligue a escoger entre el peligro de una IA fuera de control y aquellos derivados de decisiones humanas.
¿Desacelerar antes de llegar a la singularidad?
Ese escenario abrió una segunda discusión: si el desarrollo debe continuar al ritmo actual o si las compañías deberían reducir deliberadamente la velocidad con la que expanden determinadas capacidades.
El debate tomó fuerza después de que líderes de algunas de las principales compañías de IA respaldaran la idea de “pace the frontier”, que puede entenderse como acompasar o moderar el avance de la frontera tecnológica para permitir que las capacidades de seguridad puedan seguirle el ritmo. Sin embargo, no existe un consenso industrial sobre cómo llevar esa idea a la práctica ni sobre qué capacidades deberían activar una desaceleración.
Robot humanoide. Karin Pozo/Aton Chile.
Fuentealba considera que la propuesta tiene sentido si no se interpreta como una paralización tecnológica. “Me parece razonable si entendemos ‘acompasar’ como que la seguridad avance al mismo ritmo que las capacidades”, afirma.
En términos concretos, eso supondría “evaluar mejor los modelos antes de lanzarlos, estudiar qué capacidades nuevas adquirieron y poner más controles cuando aparece algo riesgoso”. Para el académico, “no significa necesariamente frenar la innovación”.
Vera coincide con esa distinción y descarta que una suspensión generalizada constituya una alternativa realista: “Dar más tiempo para evaluar capacidades, corregir fallas y preparar instituciones puede ser valioso, especialmente antes de desplegar sistemas en ámbitos sensibles”.
“Pero detener el desarrollo de la IA en general no me parece una respuesta viable ni deseable: también retrasaría beneficios científicos y médicos, y una prohibición amplia sería difícil de verificar”, agrega.
Una mano humana y una mano robótica representan la interacción, colaboración e integración entre la inteligencia artificial y la humanidad.
López también interpreta una eventual desaceleración como una redistribución de esfuerzos. En lugar de destinar los recursos exclusivamente a conseguir modelos cada vez más capaces, plantea que parte de esa inversión debería dirigirse a comprender qué ocurre dentro de los sistemas y cómo responder ante comportamientos inesperados.
La académica considera que un proceso de ese tipo “tendría el efecto de ralentizar el avance en esta tecnología en particular”, pero también permitiría “entender mejor qué es lo que está pasando con esa tecnología y poder construir mejores formas de evaluarlo y de controlarlo”.
La discusión, por tanto, no se reduce necesariamente a elegir entre continuar o detener la inteligencia artificial. Los tres especialistas apuntan, con distintos énfasis, hacia una tercera posibilidad: establecer umbrales que condicionen el avance de capacidades concretas.
La discusión, por tanto, no se reduce necesariamente a elegir entre continuar o detener la inteligencia artificial. Los tres especialistas apuntan, con distintos énfasis, hacia una tercera posibilidad: establecer umbrales que condicionen el avance de capacidades concretas.
“Más tiempo para evaluar antes de lanzarlo, y eso a mí me parecería una súper buena noticia“, indica López, quien también considera justificables los límites “cuando sea que encontremos que no somos capaces de controlarlos como sociedad o como empresas que las están desarrollando”.
¿Pueden las empresas decidir cuándo frenar?
La propuesta abre, sin embargo, un problema adicional. Las mismas compañías que deberían decidir cuándo desacelerar son las que compiten por desarrollar los sistemas más avanzados.
Claudia López considera que ese conflicto ocupa un lugar central. “Me parece que la narrativa de que quienes van a decidir cuándo avanzar y cuándo ralentizar son las empresas que construyen estas herramientas y cuya sostenibilidad financiera depende del avance de la inteligencia artificial o de la idea de que está avanzando es un riesgo en sí mismo”, expresa.
La académica considera más importante avanzar en “transparencia y rendición de cuentas” que concentrar toda la discusión en la desaceleración. En ese sentido, destaca la posibilidad de financiar evaluaciones sistemáticas realizadas por terceros que no dependan económicamente de las compañías que desarrollan los modelos.
La académica considera más importante avanzar en “transparencia y rendición de cuentas” que concentrar toda la discusión en la desaceleración. En ese sentido, destaca la posibilidad de financiar evaluaciones sistemáticas realizadas por terceros que no dependan económicamente de las compañías que desarrollan los modelos.
Fuentealba llega a una conclusión similar desde la lógica de las auditorías. “Las empresas quieren sistemas seguros, pero al mismo tiempo compiten por tener el modelo más avanzado. Y decir ‘mi IA es tan poderosa que podría ser peligrosa’ también es, en el fondo, una forma de marketing“, alerta.
Tomás Vera identifica el mismo conflicto: “Una empresa conoce riesgos que otros no pueden observar, pero también tiene incentivos para influir en las reglas y favorecer su posición competitiva”. Por ello, considera que las advertencias provenientes de los laboratorios deben contrastarse “con evidencia accesible a evaluadores independientes y con supervisión pública“.
Incluso Anthropic, una de las compañías que ha desarrollado esquemas voluntarios de seguridad más detallados, sostiene actualmente que las empresas de IA no deberían ser las únicas encargadas de decidir si sus propios sistemas son seguros y defiende evaluaciones de riesgos y mayor supervisión externa.
Claude de Anthropic.
El obstáculo de una carrera global
A las dificultades técnicas y regulatorias se suma la competencia geopolítica. Una compañía puede comprometerse a avanzar más lentamente, pero enfrenta el riesgo de que otra ocupe su posición. El mismo dilema aparece entre países, específicamente entre Estados Unidos y China.
Fuentealba compara el problema con otra carrera tecnológica de consecuencias globales. “Ningún país quiere frenar si cree que su competidor va a seguir avanzando. Es muy parecido a la carrera nuclear: los dos lados veían el peligro, pero ninguno quería quedar atrás”, recordó.
La comparación tiene, sin embargo, un límite. “Es más problemático con la IA, porque no la desarrollan solo los gobiernos. También la desarrollan empresas, universidades y centros de investigación”, precisó.
La competencia comercial muestra hasta qué punto esa coordinación puede resultar difícil. Anthropic estudia actualmente nuevos lanzamientos mientras enfrenta simultáneamente la presión competitiva de otros laboratorios, pese a que su dirección ha defendido públicamente una moderación del ritmo de avance. La tensión ilustra el problema de fondo: incluso una compañía preocupada por la seguridad opera dentro de un mercado que recompensa la obtención de capacidades superiores.
Medio original: Servindi – Servicios de Comunicación Intercultural
Enlace oficial: Ver artículo original aquí
![Fuentes: Survival [Foto: Ruth Alipaz Cuqui, del Pueblo Uchupiamona, Bolivia, en su intervención durante la rueda de prensa desde Nairobi. © Survival]](https://radiovictoriagt.com/wp-content/uploads/2026/09/51-comprimido.jpg)
