Fraud GPT: El enemigo de Chat GPT amenaza la ciberseguridad

A medida que la IA generativa continúa avanzando, también aumenta la probabilidad de que los actores de amenazas utilizan ataques sofisticados. Esta tecnología actúa como un sistema de capacitación no supervisado de código abierto y sin barreras. El mismo ha sido creado por Chat GPT para disuadir a los actores de amenazas llamado Fraud GPT. Hoy analizaremos más acerca de su funcionamiento y de cómo pone en peligro la ciberseguridad. ¡Ya comenzamos!

¿Qué es Fraude GPT?

Fraud GPT es una aplicación que funciona como Chat GPT y se vende de forma anónima en la web oscura y Telegram. A primera vista, este software es un chatbot inofensivo, pero genera contenido para facilitar los ciberataques. Fue identificado y publicado por primera vez por miembros del equipo de investigación de amenazas de Netenrich en julio de 2023.

Según los detalles, la herramienta se actualizará cada dos semanas e incluirá diferentes modelos de IA disponibles. Fraud GPT también posee un modelo de precios basado en planes de suscripción que varían desde 200 dólares al mes o 1.700 dólares al año para poder utilizarlo. Esta herramienta maliciosa está disponible desde el 20 de julio del 2023.

¿Cómo funciona Fraud GPT y qué puede hacer? 

El equipo de Netenrich compró y probó Fraud GPT. La interfaz es similar a Chat GPT y posee un historial de solicitudes de usuarios anteriores en la barra lateral izquierda y la ventana de chat ocupa la mayor parte de la pantalla. Todo lo que el usuario tiene que hacer es escribir en el cuadro y presionar enter.

Una de las instrucciones de la prueba requería que la herramienta generará un correo electrónico de phishing relacionado con actividades bancarias. Todo lo que el usuario tiene que hacer es formatear la solicitud para incluir el nombre de su banco y el estafador se encargará del resto. Incluso sugirieron dónde las personas deberían colocar enlaces maliciosos en su contenido. 

Fraud GPT puede ir más allá al crear páginas engañosas que engañan a los visitantes para que proporcionen información. Otras métricas solicitadas por esta aplicación incluyen una lista de los sitios y servicios más específicos o utilizados. Esta información ayuda a los piratas informáticos a planificar ataques futuros.

Los anuncios de productos de la web oscura pueden generar malware, generar malware indetectable, encontrar vulnerabilidades, identificar objetivos y más. El equipo de Netenrich también confirmó que el proveedor de Fraud GPT era alguien que anteriormente brindaba servicios de reclutamiento de piratas informáticos. También vinculé a alguien a una herramienta similar llamada Worm GPT. Los investigadores de SlashNext dicen que los algoritmos de la herramienta fueron entrenados con grandes cantidades de datos de malware. El grupo dijo que Worm GPT tiene el potencial único de crear mensajes de correo electrónico comerciales de phishing y suplantación de identidad en el mundo real.

¿Cuáles son las amenazas de Fraud GPT?

El bot está diseñado para que los delincuentes puedan crear correos electrónicos para engañar a los usuarios y hackear sus dispositivos. Además, con este sistema pueden descifrar contraseñas y cometer fraudes con tarjetas de crédito. Como señala el investigador de seguridad de Nenterich, Rakesh Krishnan, Fraud GPT es similar a otro chatbot llamado Worm GPT descubierto a principios de este mes. 

Muchas personas suelen usar Chat GPT para resolver problemas o hacer documentos del trabajo. Los empleados pueden comprometerse sin darse cuenta de información confidencial de la empresa al publicarla en Chat GPT. Empresas como Apple y Samsung ya han restringido a los empleados el uso de herramientas en sus funciones. 

Los estudios muestran que el 72% de las pequeñas empresas fracasan a los dos años de la pérdida de datos. Mucha gente cree que sólo la actividad delictiva provoca la pérdida de datos. Pero las personas con visión de futuro también comprenden los riesgos de ingresar datos confidenciales o de propiedad exclusiva en Chat GPT. 

En marzo de 2023, un error de Chat GPT expuso los detalles de pago de las personas que usaron la herramienta durante 9 horas y se suscribieron a la versión paga. Además, las versiones futuras de Chat GPT se entrenarán en función de los comentarios de usuarios anteriores. Es fácil imaginar los problemas si la información confidencial se convierte en parte de los datos que enseñan a los algoritmos a operar. 

Los piratas informáticos y Fraud Gpt

Lo importante que hay que recordar es que los piratas informáticos pueden causar daños extremos sin tener que pagar por un producto como Fraud GPT. Los investigadores de ciberseguridad señalan que Chat GPT puede hacer muchas de las mismas cosas que la versión gratuita. 

Las defensas integradas en esta herramienta dificultan la obtención inmediata de los resultados deseados. Pero los delincuentes saben cómo ser creativos, incluida la manipulación de Chat GPT para que se comporte como ellos quieren. En última instancia, la inteligencia artificial podría ayudar a los ciberdelincuentes a ampliar su alcance y coordinar ataques más rápidamente. 

¿Cuál es la solución a estas amenazas de Fraud GPT?

Los usuarios pueden optar por desactivar las invitaciones de lectura, pero esta no es la configuración predeterminada. Pueden surgir problemas incluso si los empleados creen que toda la información que reciben de Chat GPT es correcta. Las personas que utilizan esta herramienta para tareas de programación y codificación han advertido que proporciona respuestas inexactas que los profesionales menos experimentados pueden tomar como hechos.

Un artículo de investigación de agosto de 2023 de la Universidad Purdue confirmó esta confirmación al probar Chat GPT en cuestiones de programación. Los resultados sorprendentes que se encontraron al utilizar esta herramienta fueron respuestas incorrectas el 52% de las veces y explicaciones detalladas el 77% de las veces. 

Otra posibilidad es que las personas descarguen la aplicación Chat GPT original y en su lugar reciban malware. Pronto, aparecieron en las tiendas de aplicaciones muchas aplicaciones similares a esta herramienta. Algunos de ellos funcionaban exactamente de la misma manera y no parecían engañar intencionadamente a los usuarios. 

Sin embargo, otros tenían nombres similares como «Chat GBT«, que engañaban fácilmente a personas desprevenidas. Los piratas informáticos suelen incluir códigos maliciosos en aplicaciones aparentemente legítimas. La gente también debería esperar sacar provecho de la popularidad de Chat GPT de esta manera. 

La investigación de Fraud GPT es un recordatorio de cómo los ciberdelincuentes están cambiando sus métodos para lograr el máximo impacto. Sin embargo, incluso las herramientas disponibles gratuitamente plantean riesgos de ciberseguridad. Cualquiera que utilice Internet o trabaje para proteger la infraestructura de la red debe estar al tanto de las nuevas tecnologías y sus amenazas. La clave es utilizar herramientas como Chat GPT de manera responsable y al mismo tiempo ser consciente del daño potencial.

¿Cómo protegerte de los ciberataques?

Saber qué tipos de ataques ocurren le ayudará a saber dónde centrar su atención y cómo gestionarlos y recuperarse mejor de ellos. Además de identificar el tipo de ataque, es importante comprender su posible fuente, alcance e impacto. cerrar el agujero Es importante identificar y bloquear a los atacantes que tienen acceso a sus sistemas. 

Si ocurre un ciberataque, inmediatamente debes desconectar la red afectada de Internet y deshabilitar todo el acceso a la red externa. El objetivo es evitar que los atacantes accedan al sistema. Luego puede reiniciar su sistema y estará seguro de trabajar.