El uso delictivo de ChatGPT: una advertencia sobre los grandes modelos lingüísticos.
Oipol operando en la Unión Europea | Comunicación, documentación y fotos Europol, Marzo 27 y 28 de 2023 | Traducción y edición general Oipol, marzo 29 de 2023 – En respuesta a la creciente atención pública prestada a ChatGPT, el Laboratorio de Innovación de Europol organizó una serie de talleres con expertos en la materia de toda Europol para explorar cómo los delincuentes pueden abusar de los modelos de lenguaje extenso (LLM) como ChatGPT, así como también cómo puede ayudar investigadores en su trabajo diario.
Las ideas de los científicos se recopilan en el primer informe Tech Watch Flash de Europol publicado el día 27 de marzo, titulado ‘ ChatGPT: el impacto de los modelos de lenguaje extenso en la aplicación de la ley ‘, este documento proporciona una descripción general del posible uso indebido de ChatGPT y ofrece una perspectiva de lo que aún puede estar por venir.
El objetivo de este informe es generar conciencia sobre el posible uso indebido de los LLM, abrir un diálogo con las empresas de inteligencia artificial (IA) para ayudarlas a construir mejores salvaguardas y promover el desarrollo de sistemas de IA seguros y confiables. Para se elaboró una versión más larga y detallada de este informe sólo para las fuerzas del orden.
¿Qué son los modelos de lenguaje grande?
Un modelo de lenguaje grande es un tipo de sistema de IA que puede procesar, manipular y generar texto.
Capacitar a un LLM implica alimentarlo con grandes cantidades de datos, como libros, artículos y sitios web, para que pueda aprender los patrones y las conexiones entre las palabras para generar contenido nuevo.
ChatGPT es un LLM desarrollado por OpenAI y lanzado al público en general como parte de una vista previa de investigación en noviembre de 2022.
El modelo actual de acceso público subyacente a ChatGPT es capaz de procesar y generar texto similar al humano en respuesta a las indicaciones del usuario. Específicamente, el modelo puede responder preguntas sobre una variedad de temas, traducir texto, participar en intercambios conversacionales («chatear»), generar contenido nuevo y producir código funcional.
El lado oscuro de los modelos de lenguaje grande
A medida que se mejoran activamente las capacidades de LLM como ChatGPT, la posible explotación de este tipo de sistemas de inteligencia artificial por parte de los delincuentes ofrece una perspectiva sombría.
Las siguientes tres áreas de delincuencia se encuentran entre las muchas áreas de preocupación identificadas por los expertos de Europol:
- Fraude e ingeniería social: la capacidad de ChatGPT para redactar textos muy realistas lo convierte en una herramienta útil para fines de phishing. La capacidad de los LLM para reproducir patrones de lenguaje se puede utilizar para suplantar el estilo de habla de individuos o grupos específicos. Se puede abusar de esta capacidad a gran escala para engañar a las posibles víctimas para que depositen su confianza en manos de los delincuentes.
- Desinformación: ChatGPT sobresale en la producción de texto con sonido auténtico a gran velocidad y escala. Esto hace que el modelo sea ideal para propósitos de propaganda y desinformación, ya que permite a los usuarios generar y difundir mensajes que reflejen una narrativa específica con relativamente poco esfuerzo.
- Ciberdelincuencia: además de generar un lenguaje similar al humano, ChatGPT es capaz de producir código en varios lenguajes de programación diferentes. Para un delincuente potencial con pocos conocimientos técnicos, este es un recurso invaluable para producir código malicioso.
A medida que avanza la tecnología y se dispone de nuevos modelos, será cada vez más importante que las fuerzas del orden público se mantengan a la vanguardia de estos desarrollos para anticipar y prevenir el abuso.
Lea las recomendaciones de Europol y las conclusiones completas del informe aquí.
Aviso importante: El LLM seleccionado para ser examinado en los talleres fue ChatGPT. Se eligió ChatGPT porque es el LLM de más alto perfil y más utilizado actualmente disponible para el público. El propósito del ejercicio fue observar el comportamiento de un LLM cuando se enfrenta a casos de uso criminal y policial. Esto ayudará a las fuerzas del orden a comprender qué desafíos podrían plantear los modelos de IA generativos y derivados.
Acerca del Laboratorio de Innovación de Europol
El Laboratorio de Innovación de Europol ayuda a la comunidad policial europea a aprovechar al máximo las tecnologías emergentes al encontrar sinergias y desarrollar soluciones innovadoras para mejorar las formas en que investigan, rastrean y desbaratan las organizaciones terroristas , como así también los grupos criminales. El laboratorio lidera varios proyectos de investigación y coordina el desarrollo de herramientas de investigación con las autoridades policiales nacionales.
ChatGPT: el impacto de los modelos de lenguaje extenso en la aplicación de la ley
Documento, 27 DE Marzo de 2023, Fecha de actualización 28 de marzo de 2023
Los modelos de lenguaje grande (LLM) como ChatGPT están experimentando rápidos avances y ahora se han convertido en la corriente principal. Esto marca un importante paso adelante para el aprendizaje automático, ya que muestra su capacidad para manejar tanto tareas mundanas como tareas creativas complejas. Los desarrollos con LLM tienen implicaciones potenciales para todas las empresas, incluidas las criminales. Entonces, ¿qué significa esto para la aplicación de la ley?
En respuesta a la creciente atención pública prestada a ChatGPT, el Laboratorio de innovación de Europol organizó una serie de talleres con expertos en la materia de toda la organización para explorar cómo los delincuentes pueden abusar de los LLM y cómo pueden ayudar a los investigadores en su trabajo diario. Este informe Tech Watch Flash analiza los hallazgos de estas sesiones e incluye información clave para las fuerzas del orden a medida que continúan buscando tecnologías nuevas y emergentes que afecten su trabajo.
En los informes Tech Watch Flash, el Laboratorio de Innovación de Europol, que suele trabajar codo con codo con otros organismos encargados de hacer cumplir la ley y socios operativos, presenta análisis de nuevas tecnologías que podrían afectar al trabajo de las fuerzas del orden.
Organización Internacional de Policías 
Deja una respuesta