Microsoft lança biblioteca TypeChat para integração de grandes modelos de linguagem em interfaces de aplicativos
A Microsoft lançou a biblioteca TypeChat com o objetivo de incorporar grandes modelos de linguagem (LLMs) em interfaces de aplicativos existentes. O objetivo é melhorar as interfaces de usuário tradicionais (UIs) adicionando interfaces de linguagem natural e garantindo respostas confiáveis da IA.
A biblioteca usa definições de tipo no código para extrair respostas da IA seguras por tipo, demonstrando como os LLMs podem fornecer dados estruturados no formato JSON.
O TypeScript é um componente-chave nesse processo, pois seus tipos orientam as respostas da IA e facilitam o processo de validação em relação aos tipos definidos pelo usuário.
A biblioteca tem um forte processo de validação de respostas, usando o compilador TypeScript contra os tipos do TypeScript. Isso faz parte do método exclusivo da TypeChat que combina prompts humanos com esquemas de resposta para tradução de dados estruturados.
A TypeChat também oferece uma variedade de recursos, como ferramentas para prototipagem de prompts, validação de esquemas e reparo. Uma das aplicações da TypeChat é na análise de sentimentos, onde pode identificar o sentimento de uma frase.
O aplicativo é uma biblioteca de código aberto e modelo-neutro que suporta várias APIs de conclusão de chat. Os desenvolvedores são incentivados a experimentar a TypeChat, fornecer feedback e contribuir para o seu desenvolvimento no GitHub.
