Local Model — Running Local Models and Preparing Companies for AI
Imaginem que a vossa empresa quer usar inteligência artificial — não como experiência, mas a sério, em produção, todos os dias. A primeira reação é chamar a API do ChatGPT ou do Claude e pronto, está feito. Mas rapidamente surgem as perguntas difíceis: e os nossos dados confidenciais, vão para servidores americanos? E se a API ficar offline? Quanto é que isto nos vai custar quando escalarmos para milhares de utilizadores? E o RGPD? É aqui que entra o conceito de Harness Engineering — a engenharia de preparar, construir e operar a infraestrutura que permite às empresas verdadeiramente dominar a IA. Não basta ter acesso a modelos; é preciso saber montá-los localmente, otimizá-los, monitorizá-los e preparar a organização inteira para esta transformação. Hoje, com modelos open-source como o LLaMA, Mistral e Qwen a atingir qualidade comparável ao GPT-4, com frameworks como o Ollama e o vLLM a simplificar tudo, e com hardware cada vez mais acessível, as empresas têm pela primeira vez um caminho realista para ter IA soberana, privada e economicamente viável. Vamos explorar como.
AI News:
José António Silva:
- Article: AI Developments in April 2026 – AI Critique
- Link: AI Developments in April 2026 – AI Critique
Vitor Santos:
- Article: Agentic AI Governance Is Now a Product. Are Enterprises Ready?
- Link: Agentic AI Governance Is Now a Product. Are Enterprises Ready?
Marco Silva:
- Article: Bringing AI to the Factory Floor with Foundry Local - Now in Public Preview on Azure Local
- Link: Bringing AI to the Factory Floor with Foundry Local - Now in Public Preview on Azure Local | Microsoft Community Hub
Email us at podcast@buildingthefuture.pt
Produção:
Beatriz Herrera Gonzalez - https://www.linkedin.com/in/beahgonzalez/
Hosts:
Marco António Silva: https://www.linkedin.com/in/marconsilva/
José António Silva: https://www.linkedin.com/in/canoas/_
Vitor Santos: https://www.linkedin.com/in/vitor-santos-ab87662/