Google breidt TPU-familie uit met beveiliging en extra geheugen

Google introduceert TPU 8tx voor gevoelige gegevens en TPU 8i Max voor taken die veel geheugen vragen. De systemen combineren bestaande chips uit de achtste TPU-generatie met aangepaste processors, verbindingen en beveiliging.

Een TPU, voluit Tensor Processing Unit, is Googles eigen accelerator voor AI-berekeningen. De nieuwe configuraties richten zich op organisaties die modellen daadwerkelijk gebruiken, bijvoorbeeld voor AI-assistenten die meerdere opdrachten achter elkaar uitvoeren.

TPU 8tx combineert Googles accelerator met serverprocessors uit AMD’s vijfde generatie EPYC. Volgens AMD’s technische toelichting verzorgen die processors onder meer de voorbereiding van gegevens, de verdeling van werk en de communicatie met de TPU’s.

Dat gebeurt met beveiliging die gegevens ook tijdens gebruik moet beschermen. AMD gebruikt daarvoor onder meer Secure Encrypted Virtualization. De architectuur controleert de identiteit en beveiligingsinstellingen van aangesloten accelerators voordat die toegang krijgen tot beschermd geheugen.

AMD levert ook processors voor andere vertrouwelijke Google-clouddiensten. De TPU 8tx breidt die bestaande samenwerking uit naar gespecialiseerde AI-versnellers.

Het gaat dus verder dan versleuteling van een opgeslagen bestand of een verbinding. Tijdens een normale berekening moet een systeem gegevens kunnen verwerken. Juist dat moment vraagt extra bescherming wanneer een organisatie bijvoorbeeld vertrouwelijke documenten of eigen modelgewichten naar cloudhardware brengt.

Google beschrijft in zijn documentatie over confidential computing hoe een afgeschermde uitvoeromgeving toegang vanuit andere onderdelen van de infrastructuur beperkt. De techniek kan ook aantonen dat software binnen een gecontroleerde omgeving draait. Welke onderdelen nog vertrouwen vereisen, hangt af van de gekozen opstelling.

Voor gebruikers blijft dat onderscheid belangrijk: bescherming op hardwareniveau bepaalt niet automatisch wie binnen een organisatie toegang tot een applicatie krijgt. Een veilige rekenomgeving en zorgvuldig ingestelde gebruikersrechten vervullen verschillende functies.

TPU 8i Max pakt een ander knelpunt aan. Google combineert twee bestaande 8i-chips in één behuizing en noemt een verdubbeling van rekenkracht, intern SRAM-geheugen en de bandbreedte van het snelle HBM-geheugen.

Die combinatie is bedoeld voor grote hoeveelheden invoer. Een programmeerassistent die veel bestanden tegelijk verwerkt, moet relevante gegevens steeds beschikbaar hebben. Meer rekenvermogen helpt beperkt wanneer de processor telkens op nieuwe gegevens wacht.

Google maakte die keuze al zichtbaar in de architectuur van TPU 8i. Dat ontwerp bevat meer lokaal geheugen dan de vorige generatie en een netwerk dat communicatie tussen chips versnelt. Het bedrijf stemt de hardware daarmee af op verschillende onderdelen van AI-werk: modeltraining stelt andere eisen dan snelle antwoorden op opeenvolgende gebruikersvragen.

De uitbreiding volgt op Googles eerdere Ironwood-generatie. Ook externe modelbouwers gebruiken de TPU-infrastructuur inmiddels voor hun eigen diensten.

AMD benadrukt dat het ook hostprocessors levert voor systemen met Nvidia-GPU’s en eigen Instinct-accelerators. Het bedrijf levert daarmee een onderdeel van AI-systemen met verschillende soorten rekenchips.

Anthropic kondigde eerder een grotere inzet van Google Cloud-TPU’s aan. In april volgde een nieuw akkoord met Google en Broadcom voor meerdere gigawatts aan toekomstige capaciteit, naar verwachting vanaf 2027. Anthropic blijft daarnaast hardware van Amazon en Nvidia gebruiken.

Daarmee krijgen afnemers meer afwegingen dan alleen de topsnelheid van één chip. Beschikbaar geheugen, beveiliging, software en de aansluiting op bestaande infrastructuur bepalen mede welk systeem bij een toepassing past.

Google noemt geen openbare tarieven of algemene beschikbaarheidsdatum. Een kostenvergelijking vraagt daarom aanvullende informatie over het gekozen systeem.