
K8sGPT met een Lokale 70B Model op Apple Silicon
“Autonomous cluster management” — de belofte dat een AI je Kubernetes cluster kan monitoren, problemen kan diagnosticeren, en misschien zelfs kan fixen zonder menselijke interventie. Het klinkt als de heilige graal voor platform engineers. De realiteit is genuanceerder. In deze post test ik K8sGPT met een lokaal draaiende Llama 3.3 70B model op Apple Silicon. Geen cloud APIs, geen data die je netwerk verlaat, volledig sovereign. Is dit bruikbaar voor echte cluster diagnose? Laten we het uitzoeken. ...
