El contexto
La asociación Nos Quartiers ont du Talent (NQT) acompaña a jóvenes diplomados en su inserción profesional a través de un dispositivo de apadrinamiento. Fuera de las horas de presencia de sus responsables de misión, los jóvenes diplomados no siempre tienen respuesta inmediata a sus preguntas.
El proyecto consiste en crear un chatbot que asuma el rol de asistente responsable de misión de la asociación, para responder en tiempo real a estas solicitudes.
Nuestra intervención
El chatbot se añade como tercer participante en las conversaciones de la mensajería NQT, lo que permite al responsable de misión supervisar los intercambios y completarlos si es necesario.
Para ser pertinente en sus respuestas, el chatbot se alimenta de la documentación interna de la asociación que describe el proceso de apadrinamiento, de las instrucciones de comunicación así como de una base de intercambios de referencia.
La solución se basa en una arquitectura Java / Spring Boot / REST, asociada a un enfoque de IA generativa que combina el LLM Mistral, una lógica de RAG y embeddings.
Los resultados
Una versión preliminar del chatbot, que presenta resultados positivos, se implementa y sirve como apoyo para:
- Las demostraciones a los diferentes actores internos concernidos.
- La integración en las salas de chat de la mensajería NQT.
Se ha realizado un trabajo de optimización para reducir el impacto energético y los costos de funcionamiento de la solución. Se prevé una fase de ajuste para maximizar la calidad de las respuestas una vez que el servicio se ponga en producción.
A largo plazo, la solución técnica implementada se generalizará en la organización, con la migración de los proyectos de IA existentes a esta plataforma y la integración de nuevos casos de uso de IA.