Resumo
O aumento no uso de chatbots impulsionados por inteligência artificial trás a
motivação de tornar essa tecnologia mais colaborativa entre seus usuários. Este trabalho
explora a aplicação do gRPC, um framework de chamada de procedimento remoto, de
código aberto desenvolvido pelo Google, para a implementação de um chat colaborativo,
que possibilita a interação dos usuários e a consulta coletiva em um serviço de
inteligência artificial, utilizando o LLM Phi 3. A aplicação apresentada nesse artigo é
um sistema de chat no qual os clientes interagem por meio do gRPC, tanto para
comunicação direta quanto para realizar pesquisas com o Phi 3. Os participantes se
conectam com clientes diferentes ao mesmo prompt, podendo assim ver as interações
com a IA em tempo real em suas próprias máquinas, proporcionando uma experiência de
chat dinâmica e colaborativa.
Referências
Bilenko, Misha. Introducing Phi-3: redefining what's possible with slms. Redefining what’s
possible with SLMs. 2024. Corporate Vice President, Microsoft GenAI. Disponível
em:https://azure.microsoft.com/en-us/blog/introducing-phi-3-redefining-whats-possible-with-
slms/. Acesso em: 12 jun. 2024.
Birrell, A.; Nelson, B. Implementing Remote Procedure Calls. ACM Transactions on
Computer Systems, v. 2, n. 1, p. 39-59, fev. 1984. Disponível em:
https://dl.acm.org/doi/pdf/10.1145/2080.357392. Acesso em: 16 jun. 2024.
Grpc Authors. Introduction to gRPC. [S. l.], 8 jan. 2019. Disponível em:
https://grpc.io/docs/what-is-grpc/introduction/. Acesso em: 12 jun. 2024.
Grpc Authors. About gRPC: Who is using gRPC and why. [S. l.], 8 jan. 2019. Disponível em:
https://grpc.io/docs/what-is-grpc/introduction/. Acesso em: 12 jun. 2024.
Indrasiri, Kasun; Kuruppu, Danesh. gRPC: up and running: building cloud native applications
with Go and Java for Docker and Kubernetes. " O'Reilly Media, Inc.", 2020. Acesso em: 13
jun. 2024.
Kumari, B. et al. “A gRPCbased Chat Application with AI Integration”. ICIMMI ’23:
Proceedings of the 5th International Conference on Information Management & Machine
Intelligence, n. 113, p. 1–5, 23 nov. 2023.
Li, Beibin et al. Small Language Models for Application Interactions: A Case Study. arXiv
preprint arXiv:2405.20347, 2024. https://doi.org/10.48550/arXiv.2405.20347
Lopes, André. 'Uma IA de bolso': com phi-3, microsoft quer ampliar a oferta de inteligências
artificiais leves. com Phi-3, Microsoft quer ampliar a oferta de inteligências artificiais leves.
2024. Disponível em:
https://exame.com/inteligencia-artificial/uma-ia-de-bolso-com-phi-3-microsoft-quer-ampliar-a
-oferta-de-inteligencias-artificiais-leves/. Acesso em: 12 jun. 2024.
Rakshit; Tripathi, Y. M. Real-Time Chat Application. [s.l: s.n.]. Disponível em:
. Acesso em: 13 out. 2024.
Ovadia, Oded, et al. Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs.
2023. DOI.org (Datacite), https://doi.org/10.48550/ARXIV.2312.05934.
Shonk, Katie. Chatbot Negotiations: What Can AI Do for You? Harvard Law School Program
on Negotiation, 2023. Disponível em:
https://www.pon.harvard.edu/daily/negotiation-skills-daily/chatbot-negotiations-what-can-ai-d
o-for-you/. Acesso em: 12 jun. 2024.
Yao, Yifan et al. A Survey on Large Language Model (LLM) Security and Privacy: the good,
the bad, and the ugly. High-Confidence Computing, [S.L.], v. 4, n. 2, p. 100211, jun. 2024.
Elsevier BV. http://dx.doi.org/10.1016/j.hcc.2024.100211.