Takeaways de llave de ZDNET
- Los investigadores demostraron una forma de hackear los dispositivos de Google Home a través de Gemini.
- Google puso salvaguardas adicionales en su lugar para Gemini en respuesta.
- Mantener sus dispositivos actualizados en parches de seguridad es la mejor protección.
La idea de que la inteligencia artificial (IA) podría usarse para controlar maliciosamente su hogar y su vida es una de las principales razones por las que muchos son reacios a adoptar la nueva tecnología: es francamente aterrador. Casi tan aterrador como hacer que sus dispositivos inteligentes pirateados. ¿Qué pasa si te digo que algunos investigadores lo lograron?
Los investigadores de ciberseguridad de múltiples instituciones demostraron una gran vulnerabilidad en el popular modelo de IA de Google, Gemini. Lanzaron un ataque de inyección de inmediato controlado e indirecto, también conocido como información, para engañar a Gemini para controlar los dispositivos de inicio inteligente, como encender una caldera y aperturas de las persianas. Esta es una demostración de un sistema de IA que causa acciones físicas en el mundo real a través de un secuestro digital.
Cómo funcionó el ataque
Un grupo de investigadores de la Universidad de Tel Aviv, Technion y Safebreach creó un proyecto llamado «La invitación es todo lo que necesita». Invitaron las instrucciones maliciosas en las invitaciones del calendario de Google, y cuando los usuarios le pidieron a Gemini que «resumiera mi calendario», el asistente de IA activó acciones preprogramadas, incluido el control de dispositivos domésticos inteligentes sin la pregunta de los usuarios.
El proyecto se nombra como una obra de teatro del famoso documento de IA, «La atención es todo lo que necesita», y se activan acciones como abrir persianas inteligentes, encender una caldera, enviar spam y mensajes ofensivos, filtrar correos electrónicos, iniciar llamadas de zoom y descargar archivos.
Estas acciones preprogramadas se integraron utilizando la técnica de inyección indirecta. Esto es cuando las instrucciones maliciosas están ocultas dentro de un mensaje u objeto aparentemente inocente, en este caso, invita el calendario de Google.
Cómo te afecta esto
Vale la pena señalar que, incluso si el impacto fue real, esto se hizo como un experimento controlado para demostrar una vulnerabilidad en Géminis; No era un truco en vivo real. Es una forma de demostrarle a Google que esto podría suceder si los malos actores decidieran lanzar tal ataque.
En respuesta, Google actualizó sus defensas e implementó salvaguardas más fuertes para Gemini. Estos incluyen salidas de filtrado, que requieren confirmación explícita del usuario para acciones confidenciales y detección de indicaciones sospechosas basadas en AI. Este último es potencialmente problemático, ya que la IA es muy imperfecta, pero hay cosas que puede hacer para proteger aún más sus dispositivos de los ataques cibernéticos.
Lo que puede hacer para proteger sus dispositivos
Si bien este ataque se lanzó con Gemini y Google Home, las siguientes recomendaciones son buenas maneras de protegerse y sus dispositivos de los malos actores.
- Limite sus permisos dentro de su aplicación Smart Home. No le dé a Gemini, Siri u otros asistentes de hogar inteligentes control de dispositivos confidenciales a menos que sea necesario. Por ejemplo, dejé que Alexa acceda a mis cámaras, pero no dejo que el asistente de voz controle mis cerraduras inteligentes.
- Tenga en cuenta los servicios que se conecta con Gemini y otros asistentes de voz. Cuantos más dispositivos y aplicaciones se conecte a su asistente de IA (como Gmail, su calendario, etc.), más posibles puntos de entrada tienen los atacantes.
- Esté atento a un comportamiento inesperado de sus dispositivos y asistentes de IA y, si algo parece desactivado, revoque los permisos e repórtelo.
Como regla general, siempre debe mantener sus dispositivos y aplicaciones actualizados con las últimas actualizaciones de firmware. Esto asegura que obtenga los últimos parches de seguridad para evitar ataques.
¿Quieres más historias sobre AI? Regístrese para la innovaciónnuestro boletín semanal.
