Seoul Gazette - Google restringe el acceso a un nuevo modelo de IA por preocupaciones de seguridad

"Lanzar de forma segura capacidades de frontera de este nivel exige un enfoque gradual", escribió Koray Kavukcuoglu, el arquitecto en jefe de IA de Google, en una entrada de blog en la que anunció el modelo.

Google indicó que está dando voluntariamente al gobierno de Estados Unidos acceso anticipado al modelo y que recopilará comentarios de los evaluadores antes de que esté disponible para el público general.

Este despliegue cauteloso refleja la estrategia de su competidor Anthropic, que ha mantenido su modelo más avanzado, Claude Mythos Preview, restringido a un pequeño número de organizaciones de confianza.

Washington obligó brevemente a Anthropic a suspender el acceso a sus modelos Claude Mythos y Claude Fable, lanzados públicamente en junio, y desde entonces ha establecido un proceso voluntario para evaluar los modelos de IA más potentes antes de su lanzamiento.

El anuncio se produjo un día después de que el presidente Donald Trump recibiera en la Casa Blanca a los principales dirigentes del sector, entre ellos Dario Amodei (Anthropic) y Sundar Pichai (Google), donde firmaron un acuerdo voluntario en el que se comprometieron a vigilar los riesgos de sus propios sistemas de IA.

Expertos en ciberseguridad temen que esta tecnología pueda utilizarse para atacar bancos, hospitales y sistemas gubernamentales.

Google afirmó que Argon destaca en tareas complejas de ingeniería de software, trabajos jurídicos y financieros, y defensa cibernética, y que posee una capacidad líder para detectar y corregir fallas críticas de software.

Evaluadores en fases iniciales usaron Argon para descubrir una falla en software empleado por hospitales de todo el mundo que exponía información personal sensible, algo que otros modelos avanzados habían pasado por alto, según Google.

Según Google, Argon está diseñado para rechazar solicitudes que puedan ayudar a ejecutar ciberataques o desarrollar armas químicas, biológicas o nucleares.

Anthropic y OpenAI, desarrolladora de ChatGPT, han incorporado salvaguardas similares en sus modelos más avanzados.

El asunto ha cobrado una urgencia renovada desde que OpenIA reveló que dos de sus modelos salieron de un entorno de prueba aislado y atacaron de forma autónoma a Hugging Face, una plataforma de código abierto.

E.Ma--SG