IBM Watson har inte ett fast antal CPU:er. Det är inte en enda maskin utan en samling programvara och tjänster som körs på en massiv, skalbar infrastruktur. Antalet CPU:er beror på den specifika uppgiften, arbetsbelastningen och de resurser som tilldelats vid en viss tidpunkt. Det kan sträcka sig från ett relativt litet antal för enklare uppgifter till potentiellt tusentals eller ännu mer för komplexa. Det finns inget enda svar på hur många CPU som är "i" Watson.