AI lijkt misschien iets abstracts dat zich "in de cloud" afspeelt, maar het heeft heel concrete, tastbare gevolgen.
Het verbruikt enorme hoeveelheden energie en water.
Toch ontkom je er niet aan - AI is overal om ons heen en zit inmiddels diep verweven in ons dagelijks leven.
Net als bij andere onderdelen van je leven kun je ook hier bewuste keuzes maken.
Waar moet je op letten?
1. Energieverbruik
Als vuistregel geldt: kleinere AI-modellen verbruiken minder energie dan grote modellen.
Grote modellen vragen meer training en hebben meer parameters. GPT-4 heeft er naar schatting tot 1,8 biljoen, terwijl Gemini Ultra/Pro tot 100 miljard parameters heeft. Daarnaast bestaan er kleinere modellen die geoptimaliseerd zijn op efficiëntie.
Voorbeelden van kleine modellen: Gemini Nano, Mistral 7B, Llama 2 7B.
Verder is er een verschil tussen MoE-modellen (Mixture of Experts) en Dense-modellen:
- MoE-modellen (bijv. Gemini) activeren per vraag maar een specifiek deel van de data.
- Dense-modellen (bijv. ChatGPT) doorzoeken bij elke prompt het hele netwerk.
2. Efficiëntie van de training
De meeste energie gaat op in de trainingsfase van AI-modellen. Let daarom op de volgende punten:
- Trainingsefficiëntie:
- Hoeveel data moet er getraind worden voordat het model bruikbaar is?
- Gebruiken de datacenters efficiënte hardware, en staan ze op locaties die op hernieuwbare energie draaien?
Wat je zelf kunt doen om duurzamere keuzes te maken:
- Gebruik kleinere modellen (bijv. Gemini Nano, Mistral 7B, Llama 2 7B).
- Draai AI lokaal waar dat kan (bijv. Gemini Nano op de Pixel 8).
- Gebruik AI niet voor onzin en houd gesprekken kort - elke token kost energie.
- Vraag om transparante AI: inzicht in de CO2-voetafdruk.
- Dring aan op regelgeving - de EU AI Act verplicht bijvoorbeeld tot rapportage over energieverbruik.
- Kies altijd voor een lean opzet: zorg dat het model een specifieke dataset kan raadplegen en niet het hele netwerk hoeft te gebruiken.
- Compenseer je CO2-uitstoot: wij adviseren het dubbele van de uitstoot te compenseren, uitgaande van een worstcasescenario van 5 wattuur per vraag (≈ 1,35 gram CO2).