jueves, julio 18, 2013

NegoBot: Una bot para detectar pedófilos en chats

Este martes en la radio volvimos a tocar el tema de los depredadores en la red. Tiempo ha, en directo, yo les mostré a Javi y María cómo bastaba con conectarse a un chat con el nombre de una niña pre-adolescente para que aparecieran los depredadores sexuales en busca de nuevas presas.

Figura 1: Conversación real en un chat simulando ser una joven de 15 años

A colación de este tema decidimos llamar a los creadores de NegoBot, un programa de inteligencia artificial que han hecho en la Universidad de Deusto con un poco de procesado de lenguaje natural al que se la ha aplicado teoría de juegos en chats, y que intenta descubrir quién es un pedófilo o no lo es.

Figura 2: Tecnologías en las que se basa Negobot

La idea se basa en algo similar al Test de Turing, por el que se intenta engañar a un humano para que no se de cuenta de que está hablando con una máquina, con el objetivo de detectar comportamientos pedófios. Nos pareció un trabajo más que interesante lo que habían realizado, así que les llamamos para que nos contaran más sobre él.

Figura 3: Sistema de puntuaciones usado por Negobot

El trabajo completo está disponible en el artículo: "Negobot: Agente conversacional basado en teoría de juegos para la detección de conductas pedófilas" y en él se puede ver cómo funciona el sistema de puntuaciones con algunos ejemplos como el siguiente:

Figura 4: Ejemplo de una conversación agresiva

Hay que tener en cuenta que utilizar esto de forma policial para detectar a los depredadores en la red aún está un poco lejos, porque tal y como está la ley en este país no es fácil usar un software como éste. En primer lugar porque no hay delito - se está hablando con un bot - y en segundo lugar porque alguien podría interpretar que se estaría incitando al delito. No obstante, el trabajo me parece digno de elogio, y por tanto os recomiendo que le deis un vistazo en serio.

Saludos Malignos!

7 comentarios:

JoseM C.F.S.L dijo...

si señor un trabajo digno de elogiar, lastima que la ley no deje utilizarlo a las fuerzas de seguridad en nuestro país. Bueno al menos si que deja la ley hacer otros tipos de delincuencia a los que crean las leyes, algo un pelin absurdo pero que le vamos a hacer poder es poder y ellos lo tienen todo me refiero al poder.

Anónimo dijo...

Hola,

Es un gran trabajo, pero no entiendo porque "lamentais" (o esa sensacion da) que no se pueda usar en investigaciones policiales.

Como bien habeis reseñado, este bot esta incitando al delito, y alimentando al "pedofilo".

Lo correcto seria que se limitara a escuchar salas de chat, sin intervenir directamente en la conversacion.

María dijo...

A mí me duele que las fuerzas del orden tengan las manos tan atadas. Pero bueno, la ley es la ley y hay que respetarla.

No creo que la bot incite al delito. Se hace pasar por un niño y el pedo se alimenta solo porque lo ve como una presa.

Javier Tobia Perez dijo...

Buen trabajo, como siempre.

El actual código penal es acojonante. Se tipifican nuevos delitos pero no son capaces de regular algo que es mucho más grave que un señor robe una barra de pan y vaya a la cárcel por eso y en cambio la persona que tenga una enfermedad mental o un trastorno de la personalidad que le conduzca a conductas totalmente deleznables me parece, como ya he dicho, ACOJONANTE.

La BIT hace una labor estupenda pero creo que serían todavía más efectivos si se dieran más alas, eso sí, regulando todas estas acciones para no sobrepasar tampoco los derechos de los ciudadanos.

Felipe V [e-safe4kids] dijo...

Excelente publicación y muy buen trabajo digno de aplaudir
Esta sitiación esta axexhando la mayoria de los chats abiertos y chile no es la excepción te dejo este caso real , es impactante como a cualquier hora esta esperando por su victima con paciencia y saben muy bien como actuar.

http://www.e-safe4kids.org/2012/12/riesgo-real-en-chats-caso-real.html Caso en Chile

Nacho dijo...

En este país nadie va a la cárcel por robar una barra de pan (simple hurto).
Además, que no se pueda enchironar a alguien por decirle guarradas a un bot me parece lo más normal del mundo.

F4l53-19 dijo...

Sin dejar de aplicar la pena por sus delitos (que no siempre son violadores) de forma individualizada y hacer que las paguen (con sus derechos aunque no nos guste), estas personas deberían recibir también un tratamiento psiquiátrico según mi opinión.

Y aunque me cueste hacer un chiste sobre esto: "Chema, haced que sean banead@s a mi chat que tú sabes que yo tengo la cura"

Sin humor, la vida sería un infierno.

Entradas populares