Amazon se une a la competencia de chatbots

Amazon lanzó un chatbot para grandes empresas, aunque las pruebas internas indicaron posibles problemas.

Amazon presentó Q, un asistente impulsado por IA que permite a los empleados consultar documentos y sistemas corporativos. Días después, el boletín de tecnología Platformer obtuvo documentos internos que indican que el modelo puede generar falsedades y filtrar información confidencial. (No se debe confundir Amazon Q con OpenAI Q*).

Cómo funciona

Actualmente disponible como una vista previa gratuita, Q analiza documentos privados, bases de datos y código para responder preguntas, generar contenido y tomar acciones. Amazon planea ofrecer dos niveles de servicio: un chatbot básico (20 $ / mes) y el chatbot más generación de código, resolución de problemas, evaluación de seguridad y asistencia humana de Amazon Web Services (25 $ / mes). Amazon promete no entrenar modelos de aprendizaje automático con los datos de los usuarios de Q.

Amazon Q

Problemas

Tres días después de que Amazon presentara Q, los empleados comenzaron a señalar problemas en los canales internos de Slack y de reporte de seguridad.

Q proporcionó recomendaciones inexactas sobre cuestiones de soberanía digital; es decir, si los datos deben almacenarse o no dentro de una jurisdicción particular, un problema legal complicado en Europa y otras partes del mundo. Un empleado emitió una alerta «sev 2», indicando un problema lo suficientemente grave como para justificar llamar a los ingenieros fuera de horas laborales y durante el fin de semana. Las pruebas internas mostraron que Q podría filtrar información confidencial de Amazon, como programas de descuento internos, características no lanzadas y ubicaciones de centros de datos de AWS. Los portavoces de Amazon calificaron tales escenarios como hipotéticos y negaron que Q hubiera filtrado dicha información.

Amazon no es la única gran empresa de IA cuyo chatbot ha filtrado información privada. Investigadores de Google encontraron recientemente que podían inducir a ChatGPT de OpenAI a divulgar información personal encontrada en sus datos de entrenamiento.

Notas: Para Amazon, los problemas con un sistema recién lanzado son un obstáculo en el camino para competir efectivamente contra competidores como Microsoft Copilot y ChatGPT Enterprise. Para los desarrolladores, es un recordatorio de que cuando te mueves rápido, lo que puede romperse es tu propio producto.

Fuente: Deeplearning AI