De prijs van AI

AI is tegenwoordig overal, en kan een geweldige tool zijn. Geen zin om voor de zoveelste keer boilerplate code te schrijven? Leun even achterover, CoPilot pakt ‘t op. Kom je er niet uit hoe je die library het best toepast in je code? ChatGPT heeft zo een handleiding voor je klaar. Heb je een illustratie nodig voor bij je blogpost? Midjourney draait er z’n virtuele hand niet voor om.

Er draait echter wel een stevige energiecentrale voor.

Met de toename van AI-gebruik, stijgen ook de zorgen over de impact op het klimaat. Rekenen kost nu eenmaal energie, en AI moet héél veel rekenen om tot een antwoord op je vraag te komen, om nog maar te zwijgen over de enorme hoeveelheid processortijd die nodig is voor de training van een AI-model. Het kostte bijna 1300 megawatt-uur, goed voor zo’n 550 ton CO2-uitstoot, om GPT-3 (het model achter ChatGPT) te trainen. Een vraag aan ChatGPT kost “slechts” 0,4 gram CO2, maar hij krijgt er dagelijks gemiddeld 10 miljoen te verwerken, goed voor bijna vier ton CO2-uitstoot per dag.

Er zijn inmiddels alternatieven voor de zware general purpose AI modellen als ChatGPT. Deze alternatieven kun je lokaal op je eigen machine laten draaien en zijn vaak getraind voor specifieke toepassingen of talen. Zo heb je bijvoorbeeld de Continue.dev extensie voor Visual Studio Code, die een flinke bibliotheek aan open-source AI modellen voor codegeneratie en -analyse beschikbaar stelt. LocalAI biedt een applicatie waarin je allerlei modellen voor verschillende doeleinden kunt downloaden en uitproberen.

Doordat deze modellen heel specifiek getraind zijn, draaien ze veel zuiniger. Bovendien is er geen dataoverdracht nodig tussen jouw machine en de cloud, waarmee je nog meer energie bespaart.

Wil je je eigen CO2 footprint beperken, geldt voor AI dus hetzelfde als met andere producten: shop local!

Software Engineer

Meer weten?

"*" geeft vereiste velden aan

Privacyverklaring*
Dit veld is bedoeld voor validatiedoeleinden en moet niet worden gewijzigd.

AI is tegenwoordig overal, en kan een geweldige tool zijn. Geen zin om voor de zoveelste keer boilerplate code te schrijven? Leun even achterover, CoPilot pakt ‘t op. Kom je er niet uit hoe je die library het best toepast in je code? ChatGPT heeft zo een handleiding voor je klaar. Heb je een illustratie nodig voor bij je blogpost? Midjourney draait er z’n virtuele hand niet voor om.

Software Engineer

Meer weten?

"*" geeft vereiste velden aan

Privacyverklaring*
Dit veld is bedoeld voor validatiedoeleinden en moet niet worden gewijzigd.

Dit artikel delen

Bekijk ook deze artikelen

Het probleem en de wens Het doel van CI/CD is om zoveel mogelijk werk uit de handen van het team te nemen: het stukje CI test en valideert de code,...
– Wat is diabetes “type 1” ook alweer? Diabetes type 1 wordt gekenmerkt door een gebrek aan insulineproductie door de alvleesklier. In de meeste gevallen wordt dit veroorzaakt door een...
Zelf loop ik al lange tijd met de vraag: Wat is de beste snelheid voor je elektrische auto, om zo snel mogelijk op je bestemming te komen? (Inclusief tijd gespendeerd...

Samen met ons bouwen aan een duurzame toekomst? Neem contact op!

Maak impact. Samen. Jij ook?

"*" geeft vereiste velden aan

Privacyverklaring*
Dit veld is bedoeld voor validatiedoeleinden en moet niet worden gewijzigd.

×

Welkom bij Infiniot! Wij helpen je graag verder op weg.

× Stel hier jouw vraag