RIESGOS AL USAR CHATGPT ATLAS

OpenAI presentó ChatGPT Atlas, su primer navegador, inicialmente disponible para macOS y con planes de expansión a otras plataformas. La propuesta busca integrar directamente la navegación con ChatGPT para facilitar el uso de la IA sin copiar ni pegar contenido, aunque este enfoque, pese a su atractivo, podría implicar riesgos de seguridad para los usuarios.

Riesgos asociados al uso del ChatGPT Atlas

• Inyección rápida: Contenido malicioso oculto en páginas, URLs o imágenes puede manipular la interpretación de la GenAI y alterar el comportamiento del navegador, provocando fugas de datos, cambios de configuración o respuestas engañosas.
• Filtración de datos sensibles: El autocompletado de formularios puede hacer que el navegador entregue información personal a sitios maliciosos sin validaciones adicionales.
• Acceso excesivo a datos personales: La integración con GenAI permite acceder a pestañas, correos, calendarios, contactos y archivos del dispositivo, lo que amplía el riesgo de exposición de información sensible si se explota de forma maliciosa.
• Memoria del navegador: Las sesiones autenticadas pueden permanecer abiertas por largos períodos y ser aprovechadas por atacantes para realizar acciones no autorizadas o secuestrar sesiones.
• Vulnerabilidad ante ataques de phishing: La falta de mecanismos eficaces para distinguir sitios legítimos de fraudulentos facilita la interacción con contenido malicioso.
• Omnibox vulnerable a comandos maliciosos: Comandos disfrazados de URLs pueden engañar al usuario y modificar el comportamiento del navegador o redirigir a sitios controlados por atacantes.
• Falta de transparencia en la ejecución de las acciones: Las automatizaciones basadas en IA pueden operar sin control ni visibilidad para el usuario, procesando contenido malicioso o datos personales sin su conocimiento.
• Ausencia de estándares de divulgación de vulnerabilidades: No existe un proceso claro para reportar y corregir fallos de seguridad, lo que dificulta la mitigación oportuna de vulnerabilidades explotables.
• Inyección en portapapeles: La manipulación del contenido copiado puede redirigir información sensible, como direcciones de carteras de criptomonedas, hacia atacantes sin que el usuario lo note.
• Inyección de Reconocimiento Óptico de Caracteres (OCR): Instrucciones ocultas en imágenes pueden ser interpretadas como comandos válidos por el navegador, alterando su comportamiento de forma similar a una inyección de prompts.

Mitigaciones implementadas por OpenAI
Consciente de los riesgos asociados al nuevo producto, OpenAI ha adoptado medidas para mejorar la seguridad del navegador Atlas:

• Limitaciones de agentes: Atlas no puede ejecutar código, descargar archivos, instalar extensiones ni acceder a aplicaciones externas o a información local del dispositivo.
• Sin acceso a contraseñas ni autocompletado: El agente no puede ver contraseñas guardadas, datos de autocompletado ni memorias internas fuera de su alcance.
• Historial y control de navegación: El usuario mantiene control total, pudiendo borrar historial y memorias, definir sitios visibles para la IA o bloquearla con un solo clic.
• Memoria opcional: El recuerdo de páginas visitadas solo se activa si el usuario lo habilita explícitamente, ya que viene desactivado por defecto.
• Privacidad por defecto: Las interacciones no se utilizan para entrenar modelos, salvo autorización explícita del usuario.
• Protección para sitios críticos: Las acciones en servicios sensibles, como banca, requieren siempre aprobación manual del usuario.
• OpenAI Web Layer (OWL): Atlas se apoya en Chromium, pero ejecuta la IA en procesos separados para reducir la superficie de riesgo.

Recomendaciones de seguridad
Aunque estas medidas reducen riesgos, es importante adoptar buenas prácticas:

1. No proporcionar datos para entrenamiento: evitar enviar información sensible que pueda aparecer en interacciones futuras.
2. Cumplir con leyes de protección de datos: especialmente en entornos corporativos (LGPD, GDPR).
3. Usar el agente con precaución: recordar que tomar decisiones depende de uno no de la IA; no todas serán seguras.
4. Evitar sitios poco confiables: reducirá riesgos de inyección de prompts y otros ataques.
5. Utilizar entornos virtuales cuando sea posible: Facilita la recuperación ante fallos o ataques.
6. Capacitar a los usuarios: La formación en seguridad es clave para minimizar riesgos.

Conclusión
La integración con GenAI es una tendencia inevitable, pero la seguridad debe evolucionar al mismo ritmo. Será responsabilidad de los profesionales y usuarios configurar y usar estas herramientas de forma consciente para reducir riesgos.

Fuente: https://www.welivesecurity.com/es/seguridad-digital/chatgpt-atlas-openai...