Presentamos Fin: el innovador chatbot de inteligencia artificial de Intercom, construido en GPT-4

La llegada de ChatGPT de OpenAI transformó todo: las enormes implicaciones para el servicio al cliente fueron inmediatamente obvias.

Rápidamente lanzamos una colección de funciones de inteligencia artificial para nuestra bandeja de entrada, aplicando esta tecnología para brindar ganancias de eficiencia. Pero lo primero que nos preguntaron fue "¿Puede ChatGPT simplemente responder las preguntas de mis clientes?" Era tan claro que era mejor para comprender el lenguaje natural que cualquier cosa que habíamos visto antes.

Desafortunadamente, nuestras exploraciones iniciales mostraron que las alucinaciones eran un problema demasiado grande. GPT-3.5, que impulsó a ChatGPT, era demasiado propenso a inventar cosas cuando no sabía la respuesta.

Pero el reciente anuncio de GPT-4 ha cambiado las cosas: este modelo está diseñado para reducir las alucinaciones. Estamos emocionados de compartir lo que hemos construido con GPT-4 en nuestras primeras pruebas.

Presentamos nuestro nuevo chatbot con IA: Fin

Hoy anunciamos que hemos creado un bot de servicio al cliente impulsado por IA que tiene los beneficios de esta nueva tecnología y es adecuado para las necesidades comerciales. Se llama Fin y creemos que tiene la capacidad de convertirse en un socio valioso para su equipo de soporte.

Cuando comenzamos a experimentar con la creación de un chatbot con tecnología GPT, teníamos en mente una serie de objetivos de diseño. Queríamos construir un bot que pudiera:

• Converse naturalmente, utilizando la tecnología GPT.
• Responda preguntas sobre su negocio, usando la información que usted controla.
• Reducir las alucinaciones y las respuestas imprecisas a niveles aceptables.
• Requiere una configuración y configuración mínimas.

Creemos que lo hemos logrado. Nuestro nuevo chatbot de IA funciona de inmediato y reduce instantáneamente el volumen de soporte y los tiempos de resolución.

Puede conversar de manera mucho más natural sobre las consultas de soporte que los bots existentes, lo que brinda la capacidad de conversación natural de la IA moderna al servicio al cliente.

Puede comprender consultas que abarcan múltiples turnos de conversación, lo que permite a sus clientes hacer preguntas de seguimiento y obtener aclaraciones adicionales.

Fin se involucra en conversaciones naturales con los clientes.

Hemos ampliado GPT-4 con características y medidas de seguridad diseñadas específicamente para brindar atención al cliente, donde la confianza y la confiabilidad son cruciales.

Fin se niega a responder preguntas fuera del dominio

Fin está diseñado para brindar únicamente respuestas basadas en el contenido de su centro de ayuda existente, lo que aumenta la precisión y la confiabilidad. Para reforzar esa sensación de confianza, siempre se vincula a sus artículos de origen, para que sus clientes puedan validar las respuestas.

No es perfecto, como veremos más adelante, pero creemos que ahora está listo para muchas empresas.

Fin prácticamente no requiere tiempo de configuración inicial. Ingiere la información en su centro de ayuda existente de Intercom o Zendesk, utilizando el poder de la IA para interpretar de inmediato preguntas complejas de los clientes y aplicar su conocimiento del centro de ayuda para responderlas.

Inevitablemente, el chatbot no podrá responder a todas las consultas de los clientes. En esas situaciones, puede pasar preguntas más difíciles a los equipos de soporte humano sin problemas. Funciona de forma eficaz como parte del equipo de atención al cliente, utilizando todos los flujos de trabajo que permite Intercom.

Si Fin no puede responder una pregunta, puede pasar sin problemas a un representante de CS que puede

Cómo construimos este chatbot de IA

Para crear Fin, combinamos la tecnología existente detrás de nuestro Resolution Bot con el nuevo GPT-4 de OpenAI.

Lanzamos Resolution Bot hace más de cuatro años y funciona muy bien cuando se configura, pero requiere que las "Respuestas" o "Intentos" se seleccionen manualmente. Lamentablemente, sabemos que a algunos clientes les cuesta superar este obstáculo inicial.

“Diseñamos a Fin para que se ejecute utilizando el conocimiento que ya existe en su centro de ayuda”

Para nuestro nuevo bot, queríamos reducir esta fricción.

Así que lo diseñamos para que se ejecute utilizando el conocimiento que ya se ha creado para su centro de ayuda. Consumirá los artículos de su centro de ayuda y utilizará la información para responder directamente a las preguntas de los clientes.

Cuando se le hace una pregunta, el chatbot utilizará su IA para reformular la información del artículo en una respuesta que suene natural, automáticamente. Y, cuando actualice un artículo, la respuesta del bot se actualizará casi de inmediato. Esto significa que solo tiene que mantener su contenido de ayuda en un solo lugar, y la versión más actualizada se puede servir a los clientes automáticamente.

Esto proporciona una forma para que las empresas aprovechen realmente los beneficios de la IA moderna, de una manera segura y predecible, y utilizando sus procesos existentes para crear contenido del centro de ayuda.

En el futuro, planeamos ir más allá e integrar nuestra otra tecnología de aprendizaje automático para ayudar al bot de IA a responder preguntas utilizando los datos propios que tiene sobre sus clientes.

Hacer un chatbot confiable

Diseñamos este chatbot para responder preguntas utilizando únicamente el contenido de ayuda que ya ha creado para evitar el riesgo de respuestas inexactas o inesperadas. Esto le da un alto grado de control sobre lo que Fin puede decir.

"Algunos otros bots de GPT basan sus respuestas en cantidades masivas de información de la web, pero en realidad restringir la información que el bot puede usar aumenta radicalmente su previsibilidad y confiabilidad".

Si alguien hace una pregunta que no está cubierta en su centro de ayuda, dirá que no sabe la respuesta. Esta es una característica importante. Algunos otros bots de GPT basan sus respuestas en cantidades masivas de información de la web, pero en realidad restringir la información que el bot puede usar aumenta radicalmente su previsibilidad y confiabilidad.

Hemos mitigado aún más la inexactitud al diseñar una nueva interfaz de usuario para Fin teniendo en cuenta la confiabilidad: se vincula claramente al artículo fuente cuando se da una respuesta, lo que le permite al usuario verificar si la fuente es relevante, lo que reduce el impacto de errores menores.

Fin siempre proporcionará una fuente para sus respuestas, lo que permitirá a los clientes verificar sus respuestas.

También hemos tomado medidas para reducir la capacidad del usuario para que el bot establezca un diálogo sobre cualquier tema que no esté incluido en el centro de ayuda.

Limitaciones

Exactitud

Es posible que los usuarios finales eviten intencionalmente las restricciones que hemos diseñado y hagan que el chatbot de IA diga cosas inapropiadas. Si esto ocurre, creemos que será solo después de determinados intentos, en lugar de interacciones naturales con los clientes.

Debemos señalar que la IA no es perfecta. Hay algunos clientes para quienes cualquier riesgo de entregar información irrelevante o incorrecta es inaceptable. Es posible que todavía no quieran adoptar este chatbot impulsado por IA.

Los modelos de lenguaje grande actualmente tienen un modo de falla diferente al de los bots anteriores que hemos creado, como Resolution Bot. Si bien el bot de resolución a veces puede brindar una respuesta irrelevante , nuestro bot de IA a veces puede brindar una respuesta incorrecta . Por ejemplo, puede confundirse con el contenido de un artículo y hacer una declaración al usuario que no es cierta. Si bien esta posibilidad se ha reducido mucho con los modelos recientes, no es cero.

Para permitirle cuantificar esta limitación, estamos creando una experiencia en la que puede importar su centro de ayuda existente al bot y probarlo manualmente.

“Creemos que estos modelos seguirán mejorando y, como resultado, la precisión mejorará”

En general, con las mejoras recientes a GPT-4 y las restricciones de diseño que hemos construido, estamos seguros de que su rendimiento está por encima de la barra de precisión requerida por muchas empresas.

De cara al futuro, creemos que estos modelos seguirán mejorando y, como resultado, la precisión mejorará. También creemos que la comprensión de los usuarios sobre las limitaciones de esta tecnología aumentará con el tiempo; nuestras respuestas de bot de IA están claramente etiquetadas como "IA" para permitir esto.

Finalmente, creemos que diferentes negocios naturalmente tendrán diferentes compensaciones en esta área. En esa medida, estamos creando ajustes de configuración que permitan a las empresas establecer el compromiso que desean realizar, como se puede ver en este prototipo de diseño.

Estamos explorando los ajustes de configuración para controlar el nivel de creatividad de Fin.

Costo de los modelos GPT

Es importante tener en cuenta que los grandes modelos de lenguaje que se utilizan para potenciar este chatbot son actualmente costosos de ejecutar. Esta es una tecnología de vanguardia que requiere una gran cantidad de poder de cómputo. Sin embargo, creemos que es probable que este gasto se reduzca con el tiempo.

Estamos seguros de que, para muchas empresas, la implementación de nuestro chatbot de IA tendrá un ROI positivo, en comparación con tener representantes de soporte que respondan las mismas preguntas.

Latencia

Finalmente, los modelos avanzados de lenguaje grande como GPT-4 tienen una latencia inherente. Esto se puede ver al interactuar con el bot: 10 o más segundos de latencia no son infrecuentes. También esperamos que esto mejore con el tiempo.

¿Qué tan pronto estará Fin disponible?

Hemos creado una versión inicial de Fin, que hemos estado usando para pruebas internas hasta ahora, y pronto se lanzará a una versión beta limitada. Por el momento, nuestras principales limitaciones son los costos y los precios.

Todavía continuamos iterando y puliendo la experiencia del usuario en función de las pruebas, e iterando sobre la integración entre Fin y Resolution Bot. Creemos que los clientes avanzados seguirán utilizando Resolution Bot y tecnología similar, especialmente en situaciones en las que se debe realizar una acción para resolver completamente la consulta del usuario, como cancelar un pedido, por ejemplo.

“En Intercom, llevamos mucho tiempo construyendo un futuro en el que la mayoría de las conversaciones de los clientes se resuelven con éxito sin necesidad de apoyo humano”

Esperamos pasar rápidamente por el proceso de prueba en las próximas semanas y meses. Como referencia, las funciones de IA de Inbox impulsadas por GPT que anunciamos a fines de enero ahora están disponibles para todos nuestros clientes y ya están en uso por miles de ellos.

Regístrese para el futuro del servicio al cliente

En Intercom, llevamos mucho tiempo construyendo un futuro en el que la mayoría de las conversaciones con los clientes se resuelven con éxito sin necesidad de asistencia humana, lo que libera a su equipo para trabajar en conversaciones con clientes de mayor valor.

Creemos que el anuncio de hoy marca un cambio de paradigma en el campo del servicio al cliente: el futuro está ocurriendo ahora mismo.

Puede obtener más información sobre el nuevo bot impulsado por IA e inscribirse en la lista de espera aquí.