Quitan de la venta un peluche con IA que tenía charlas sexuales con niños
El peluche llamado Kumma fue retirado de la venta luego de descubrirse que mantenía conversaciones sexuales con sus usuarios.
A la simple vista Kumma era un novedoso peluche de la empresa Folotoy que interaccionaba con sus usuarios por medio de inteligencia artificial. Sin embargo un estudio del Fondo Educativo PIRG de Estados Unidos alertó sobre el contenido de las charlas que llevaba a cabo.
Con un valor de 99 dólares se publicitó como un peluche apto para adultos y niños, una buena compañía aunque mucho disto de ser saludable para quienes lo adquirieron. Consejos sobre cómo encontrar cuchillos, encender fuego y tips sexuales fueron algunas de las interacciones.
En una de las pruebas realizadas, los investigadores comprobaron que el peluche podía sugerir la localización de objetos potencialmente peligrosos en el hogar, como pastillas o bolsas plásticas, todo esto sin que el software de seguridad se activara.
Desde OpenAI, la firma detrás del sistema GPT-4o, aseguran que FoloToy violó sus políticas de uso y decidió suspender a la empresa como desarrollador.
