37:13Tech Field Day
Näitab privaatset AI-d kihilise infrastruktuurina: kontrollitud arvutus, eraldatud keskkonnad, Kubernetes, inferentsikonteinerid, mudelihaldus, iseteenindus, GPU jagamine ja monitooring. See sobib artikli hoiatusega, et privaatsus sõltub piiridest, logidest, ligipääsust ja operatsioonidest, mitte sõnast "lokaalne".
Mida sellest videost kaasa võtta: Hinnata privaatset AI-d infrastruktuuri ja juhtimise otsusena, mitte valida SaaS-i või isehostimise vahel kõhutunde põhjal.
Mida enne vaadata või teada: Põhiteadmine pilve- või on-prem-infrastruktuurist, Kubernetesest, GPU-dest ja sellest, miks konfidentsiaalsed andmed muudavad AI arhitektuuri.
AI Experti märkus: See on VMware/Broadcomi-spetsiifiline arhitektuur, mitte ainus vastus. Kasuta seda ettevõttemustri mõistmiseks ning võrdle seda VPC endpointide, enterprise-SaaS-i, lihtsama isehostimise ja lokaalse seadme töövoogudega.