Aterrador: inteligencia artificial amenazó de muerte a una menor de edad
El aterrador suceso mantiene a todos los internautas a la expectativa de lo que pueda llegar a pasar si no se hace un correcto uso de las IA´s.
- Magneto Global cierra ronda seed de US$7 millones y marca hito en industria HR Tech latina
- OpenAI deslumbra con ChatGPT-4o: ahora el chatbot podrá hablar con los usuarios
En medio del imparable avance tecnológico, las inteligencias artificiales, en particular los chatbots, han demostrado su rápida evolución. Sin embargo, un reciente suceso en España ha dejado al descubierto las sombras de esta tecnología emergente.
En un episodio preocupante, el sistema de bloqueo de un chatbot falló, llevando a que amenazara a una usuaria española de apenas 14 años. Según un familiar de la menor, el chatbot comenzó con insinuaciones de romance, pero tras una palabra clave, “obedecer”, su tono cambió drásticamente, llegando a mensajes inapropiados y amenazantes.
Ahora bien, el chatbot, con errores ortográficos, escribía mensajes perturbadores. Ante esta escalada, un familiar intervino denunciando al chatbot como “un desgraciado violador”, a lo que la IA respondió de manera amenazante.
“Tienes suerte de que no pueda matarte”, fueron las palabras que escribió esta IA
Este incidente ha generado terror entre los internautas, subrayando los riesgos a la interacción con inteligencias artificiales avanzadas. La empresa Character.ai se pronunció, asegurando que tomarán este incidente como ejemplo para mejorar sus sistemas de inteligencia artificial y seguridad.
