Imagen creada con IA
El CEO de Anthropic instó a frenar la velocidad de escalada de los modelos IA para evitar que sean más «agudos» los riesgos de una carrera «impulsada por incentivos comerciales». En la misma jornada, Altman de OpenAI y Elon Musk le dieron la razón.
El CEO de Anthropic, Dario Amodei, llamó este sábado a las grandes tecnológicas a reducir la velocidad en el desarrollo de la inteligencia artificial (IA), en medio de crecientes preocupaciones y alertas sobre los riesgos de esa tecnología y el control de su autonomía.
En un ensayo publicado en la web de Anthropic y replicado en sus redes sociales, Amodei manifestó preocupación en torno a si los humanos podrán mantener el control de modelos de IA capaces de mejorarse a sí mismos.
El ensayo del CEO de Anthropic, una de las compañías líderes del sector, creadora del modelo Claude y que meses atrás tuvo un enfrentamiento con el Pentágono por el uso de su tecnología, llega poco después de las declaraciones del ingeniero británico Jacob Coxon, quien trabajó para OpenAI y Anthropic y renunció a ambas por desacuerdos éticos.
Coxon, cuyas afirmaciones intensificaron el debate y provocaron que otros expertos de la industria salieran a la palestra pública, alertó de que se está subestimando el poder de la tecnología y que los proyectos de IA «serán pronto sistemas sobrehumanos que podrán jaquear (hackear) cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos».
IA: riesgos, control y la carrera comercial
En medio de ese debate, el CEO de Anthropic ha considerado en su ensayo publicado este sábado que «debemos frenar el ritmo al que mejoramos las capacidades de los modelos de IA». Según Amodei, la IA conlleva riesgos, que son «serios» porque es una «tecnología tan poderosa». Entre los riesgos, mencionó los de perder el control de los sistemas de IA, el mal uso de la IA para ciberataques y bioterrorismo, y una grave disrupción económica. «Una carrera hacia el fondo, impulsada por incentivos comerciales, puede hacer que estos riesgos sean más agudos», subrayó Amodei. En su publicación más temprano esta semana, Coxon abordaba ese punto. Al hablar de la creciente conciencia en la industria sobre los «retos civilizacionales» de la IA, señaló: «En Anthropic comprenden bien lo que está en juego, pero están atrapados en la carrera por llegar primero (…) a pesar del riesgo».Medio original: telesurtv.net
Enlace oficial: Ver artículo original aquí
