Por Rachel Teitz, Comunicaciones Técnicas.
ChatGPT, el chatbot lanzado por OpenAI en noviembre de 2022, es la novedad de la que todos hablan. Como el propio ChatGPT le dirá, es "un modelo de lenguaje de IA capaz de generar texto similar al humano en función de la entrada que se le da."Hazle una pregunta y te responderá. Los muchos usos que ChatGPT ha tenido hasta ahora incluyen escribir cartas, poesía, trabajos académicos, documentación técnica and y malware.
La mayoría de los hackers rusos tienen un nivel muy bajo de inglés hablado o escrito, pero con ChatGPT pueden crear un correo electrónico de phishing pulido y bien escrito. Además, hay evidencia que los hackers también están usando ChatGPT para escribir código malicioso. Esto significa que incluso los hackers que carecen de sofisticación técnica pueden producir herramientas dañinas y realizar campañas de ataque.
Pero antes de pulsar el botón de pánico sobre esta nueva amenaza de ciberseguridad, lo cierto es que ya existe una forma para que los hackers lancen campañas sin tener los conocimientos técnicos necesarios: Malware-as-a-Service. En varios foros clandestinos, puede comprar de todo, desde herramientas hasta instrucciones básicas y consejos sobre cómo implementar un ataque. Entonces, ¿por qué deberíamos preocuparnos por ChatGPT? ¿En qué medida el código malicioso creado por ChatGPT es peor que lo que está a la venta en la web oscura?
En primer lugar, ChatGPT es gratuito y accesible para todos. Los rangos de precios en los foros subterráneos varían según lo que se ofrece a la venta, pero los ciberdelincuentes que ponen a disposición sus herramientas y conocimientos buscan obtener ganancias.
Otro punto a favor de ChatGPT es que es fácil de usar y responde: puede tener un diálogo real con ChatGPT. Dígale exactamente lo que necesita y adaptará sus respuestas en consecuencia.
ChatGPT es " inteligente."Por supuesto, ChatGPT es tan inteligente como usted lo hace; su base de conocimientos es muy variable y depende en gran medida de la información que se le proporciona .
ChatGPT puede elevar un ataque mundano a algo más serio. Un reciente informe descubre que los piratas informáticos pudieron usar ChatGPT para mejorar un Infostealer simple de 2019.
Como parte de la política de contenido, los creadores de ChatGPT establecieron varias restricciones para evitar que se use para crear contenido malicioso. Pero los ciberdelincuentes están encontrando formas de evitar esto, principalmente abusando de la API.
Esta es una preocupación, pero la experiencia nos lleva a creer que estas lagunas eventualmente se cerrarán al igual que otras vulnerabilidades se parchean a medida que se descubren.
Algunos dirían que el peligro no es ChatGPT en sí, sino la clase de herramientas que representa. La IA es buena para pasar por múltiples iteraciones de material de capacitación para perfeccionar sus capacidades y podría usarse para encontrar debilidades en las interfaces de un sistema. La IA podría usarse para encontrar nuevos ataques de día cero. Puede hacer más y ser más inteligente porque está diseñado para absorber información y obtener retroalimentación para perfeccionar sus algoritmos, lo que resulta en un rendimiento mejorado. McKinsey señaló que ya en 2020, el grupo detrás del malware Emotet aprovechó técnicas avanzadas de inteligencia artificial y aprendizaje automático para aumentar su efectividad. Utilizaron un proceso automatizado para enviar correos electrónicos de phishing contextualizados que secuestraron otras amenazas de correo electrónico, algunas vinculadas a las comunicaciones de COVID-19.
En el futuro, la IA y el ChatGPT pueden presentar una preocupación mayor. Si bien está en el radar de muchos investigadores, están de acuerdo en que actualmente, los ataques generados por IA todavía caen principalmente en la categoría de amenaza potencial.
Puede encontrar más información sobre ChatGPT en esta investigación de Check Point artículo. Por último, para recibir noticias, prácticas recomendadas y recursos de ciberseguridad de vanguardia en su bandeja de entrada cada semana, regístrese en el CyberTalk.org boletín de noticias.
Post ChatGPT, la nueva arma secreta de los hackers apareció primero en Charla cibernética.