37:13Tech Field Day
Näyttää yksityisen tekoälyn kerroksellisena infrastruktuurina: kontrolloitu laskenta, eristetyt ympäristöt, Kubernetes, inferenssikontit, mallinhallinta, self-service-provisionointi, GPU:n jakaminen ja valvonta. Se kartoittuu suoraan artikkelin varoitukseen, että tietosuoja riippuu käyttöönoton rajoista, lokeista, pääsystä ja operaatioista, ei sanasta ”paikallinen”.
Mitä sinun pitäisi oppia tästä: Arvioi yksityistä tekoälyä infrastruktuuri- ja hallintapäätöksenä sen sijaan, että oletusarvoisesti valitsisit SaaS:n tai itse isännöinnin vaistolla.
Katso tai hallitse ensin: Perusymmärrys pilvi- tai on-prem-infrastruktuurista, Kubernetesista, GPU:ista ja siitä, miksi luottamuksellinen data muuttaa tekoälyarkkitehtuuria.
AI Expert -huomio: Tämä on VMware/Broadcom-kohtainen arkkitehtuuri, joten älä käsittele sitä ainoana vastauksena. Käytä sitä yritysmallin ymmärtämiseen, sitten vertaa sitä VPC-päätepisteisiin, enterprise SaaS:iin, yksinkertaisempiin itse isännöityihin pinoihin ja paikallisiin laite työnkulkuihin todellista pk-yrityksen käyttötapausta varten.