Al Collab: Chat Colaborativo para Consultas à IA Phi 3 via gRPC

Marianne Lacerda Dutra Theodoro Theodoro, M. L. D.

Henrique Dias Silva SILVA, H. D.

Felipe Guimarães Pazin PAZIN, F. G.

Victor Tavares Moreira MOREIRA, V. T.

Madianita Bogo Marioti MARIOTI, M. B.

Resumo

O aumento no uso de chatbots impulsionados por inteligência artificial trás a
motivação de tornar essa tecnologia mais colaborativa entre seus usuários. Este trabalho
explora a aplicação do gRPC, um framework de chamada de procedimento remoto, de
código aberto desenvolvido pelo Google, para a implementação de um chat colaborativo,
que possibilita a interação dos usuários e a consulta coletiva em um serviço de
inteligência artificial, utilizando o LLM Phi 3. A aplicação apresentada nesse artigo é
um sistema de chat no qual os clientes interagem por meio do gRPC, tanto para
comunicação direta quanto para realizar pesquisas com o Phi 3. Os participantes se
conectam com clientes diferentes ao mesmo prompt, podendo assim ver as interações
com a IA em tempo real em suas próprias máquinas, proporcionando uma experiência de
chat dinâmica e colaborativa.

Referências

Bilenko, Misha. Introducing Phi-3: redefining what's possible with slms. Redefining what’s possible with SLMs. 2024. Corporate Vice President, Microsoft GenAI. Disponível em:https://azure.microsoft.com/en-us/blog/introducing-phi-3-redefining-whats-possible-with- slms/. Acesso em: 12 jun. 2024. Birrell, A.; Nelson, B. Implementing Remote Procedure Calls. ACM Transactions on Computer Systems, v. 2, n. 1, p. 39-59, fev. 1984. Disponível em: https://dl.acm.org/doi/pdf/10.1145/2080.357392. Acesso em: 16 jun. 2024. Grpc Authors. Introduction to gRPC. [S. l.], 8 jan. 2019. Disponível em: https://grpc.io/docs/what-is-grpc/introduction/. Acesso em: 12 jun. 2024. Grpc Authors. About gRPC: Who is using gRPC and why. [S. l.], 8 jan. 2019. Disponível em: https://grpc.io/docs/what-is-grpc/introduction/. Acesso em: 12 jun. 2024. Indrasiri, Kasun; Kuruppu, Danesh. gRPC: up and running: building cloud native applications with Go and Java for Docker and Kubernetes. " O'Reilly Media, Inc.", 2020. Acesso em: 13 jun. 2024. Kumari, B. et al. “A gRPCbased Chat Application with AI Integration”. ICIMMI ’23: Proceedings of the 5th International Conference on Information Management & Machine Intelligence, n. 113, p. 1–5, 23 nov. 2023. Li, Beibin et al. Small Language Models for Application Interactions: A Case Study. arXiv preprint arXiv:2405.20347, 2024. https://doi.org/10.48550/arXiv.2405.20347 Lopes, André. 'Uma IA de bolso': com phi-3, microsoft quer ampliar a oferta de inteligências artificiais leves. com Phi-3, Microsoft quer ampliar a oferta de inteligências artificiais leves. 2024. Disponível em: https://exame.com/inteligencia-artificial/uma-ia-de-bolso-com-phi-3-microsoft-quer-ampliar-a -oferta-de-inteligencias-artificiais-leves/. Acesso em: 12 jun. 2024. Rakshit; Tripathi, Y. M. Real-Time Chat Application. [s.l: s.n.]. Disponível em: . Acesso em: 13 out. 2024. Ovadia, Oded, et al. Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs. 2023. DOI.org (Datacite), https://doi.org/10.48550/ARXIV.2312.05934. Shonk, Katie. Chatbot Negotiations: What Can AI Do for You? Harvard Law School Program on Negotiation, 2023. Disponível em: https://www.pon.harvard.edu/daily/negotiation-skills-daily/chatbot-negotiations-what-can-ai-d o-for-you/. Acesso em: 12 jun. 2024. Yao, Yifan et al. A Survey on Large Language Model (LLM) Security and Privacy: the good, the bad, and the ugly. High-Confidence Computing, [S.L.], v. 4, n. 2, p. 100211, jun. 2024. Elsevier BV. http://dx.doi.org/10.1016/j.hcc.2024.100211.

08 de Novembro de 2024

13-26

Palmas-TO

e-ISSN:2447-0767

Como referenciar

Theodoro, M. L. D.; SILVA, H. D.; PAZIN, F. G.; MOREIRA, V. T.; MARIOTI, M. B.. Al Collab: Chat Colaborativo para Consultas à IA Phi 3 via gRPC. In: ENCOINFO - Congresso de Computação e Tecnologias da Informação, 26., 2024, Palmas - TO. Anais [...]. Palmas - TO: CEULP/ULBRA, 2024. p. 13 - 26. ISSN e-ISSN: 2447-0767 versão online. Disponível em: https://ulbra-to.br/encoinfo/edicoes/2024/artigos/al-collab-chat-colaborativo-para-consultas-a-ia-phi-3-via-grpc/. Acesso em: 23 nov. 2024