De groenste AI staat niet altijd op je eigen bureau
AI op een eigen computer is niet vanzelf de duurzaamste keuze. Onderzoek van HOGENT-student Alexandru Poenaru bij het Italiaanse Turtle Srl laat zien dat de cloud bij het uitlezen van facturen naar schatting gemiddeld vijf keer minder energie verbruikt per verwerkte hoeveelheid tekst. Ook financieel blijkt zelf apparatuur inzetten bij het verwachte bedrijfsvolume weinig aantrekkelijk.
Een energiefactuur vertelt hoeveel stroom een bedrijf verbruikt. Wie die factuur door artificiële intelligentie laat lezen, verbruikt opnieuw stroom. Dat plaatst Turtle Srl voor een dilemma. Het bedrijf begeleidt organisaties bij hun transitie naar duurzaamheid en wil AI gebruiken om gegevens uit documenten te halen. Dat kan het berekenen van duurzaamheidsindicatoren ondersteunen, maar het hulpmiddel heeft zelf ook een voetafdruk. Een bedrijf dat anderen helpt hun impact te beperken, wil weten wat zijn eigen technologie kost.
Ook andere kleine en middelgrote ondernemingen staan voor die keuze. Via de cloud draait hun AI in een datacenter en betalen ze voor het gebruik. Eigen apparatuur biedt meer controle over gegevens en infrastructuur, maar kost geld en stroom. Welke optie het zuinigst is, valt niet af te lezen aan de plaats waar de computer staat.
Alexandru bouwde voor zijn bachelorproef Toegepaste Informatica een testomgeving. Drie taalmodellen, AI-systemen die tekst verwerken, kregen dezelfde Italiaanse facturen voorgeschoteld: Llama, Qwen en Apertus. Ze moesten de leverancier, de facturatieperiode en het energieverbruik teruggeven. Elk model draaide zowel in de cloud als op een werkstation bij Turtle Srl. De lokale versies waren gecomprimeerd om in het geheugen van de grafische kaart te passen. Over 21 documenten analyseerde Poenaru 6.241 aanvragen, met aandacht voor energie, snelheid, kosten en juistheid.
De stroomrekening vergat het leeswerk
Een eerlijke vergelijking bleek moeilijker dan verwacht. Op het eigen werkstation kon Alexandru het verbruik met software volgen. Voor de cloud kreeg hij geen rechtstreeks energiecijfer per aanvraag en gebruikte hij EcoLogits, een hulpmiddel dat het verbruik schat. Daar zat een blinde vlek: de gebruikte schatting telde het schrijven van het antwoord mee, maar liet het verwerken van de invoertekst buiten beschouwing. Bij een lange factuur met een kort antwoord ontbreekt dan een belangrijk deel van het werk.
In de tests was de invoer ongeveer 150 keer langer dan het antwoord. Alexandru paste daarom een correctie toe op basis van gepubliceerd energieonderzoek. De aangepaste cloudschatting lag gemiddeld ongeveer 31 keer hoger dan de oorspronkelijke. Dat veranderde het beeld aanzienlijk, maar keerde de uitkomst niet om: ook na de correctie bleef de cloud energiezuiniger.
Per duizend tokens, de tekststukjes waarmee een taalmodel werkt, verbruikten de lokale modellen gemiddeld ongeveer vijf keer meer energie. Zowel de gelezen tekst als het antwoord telde mee. De cloud was bovendien sneller: gemiddeld 4,2 seconden per aanvraag, tegenover 9,9 seconden lokaal. Datacenters kunnen gespecialiseerde apparatuur inzetten en rekenwerk van meerdere gebruikers bundelen. Ook de herkomst van de stroom telt. In de onderzochte regionale scenario's lag de berekende CO₂-uitstoot van de cloud telkens onder die van het Italiaanse werkstation.
De cloud verbruikt hier gemiddeld ongeveer vijf keer minder energie per duizend tekststukjes. Arcering toont het verschil tussen de oorspronkelijke en gecorrigeerde cloudschatting; grijze lijnen tonen de spreiding tussen aanvragen. Bron: onderzoek Alexandru Poenaru.
Die uitkomst heeft een duidelijke afbakening. De vergelijking betreft het stroomverbruik tijdens de AI-verwerking, zonder training, hardwareproductie, documentvoorbereiding of datatransport. De lokale softwaremetingen kunnen afwijken en de cloudcijfers blijven schattingen. De resultaten gelden voor deze factuurtaak en dit werkstation; andere apparatuur of toepassingen kunnen een andere verhouding opleveren.
Miljoenen facturen om quitte te spelen
Ook op de financiële rekening kwam de cloud gunstig uit. Voor Qwen en Apertus zou de lokale investering volgens het kostenmodel pas rond 2,6 miljoen aanvragen zijn terugverdiend. Bij duizend aanvragen per dag komt dat rekenkundig neer op ruim zeven jaar. Voor Llama lag de drempel zelfs rond 45 miljoen aanvragen: het verschil in gebruikskosten was te klein om de investering bij een bescheiden volume terug te verdienen.
Turtle Srl verwacht tientallen tot honderden facturen per dag te verwerken. Bij zulke volumes weegt de aanschaf van apparatuur zwaar tegenover betalen per gebruik. De berekeningen gebruiken de hardwarekosten en tarieven uit het onderzoek; andere prijzen of apparatuur kunnen de balans verschuiven. Voor deze bedrijfscontext wezen energieverbruik en kosten richting de cloud.
Een keurig antwoord kan fout zijn
Een lage stroomrekening maakt AI nog geen betrouwbaar hulpmiddel. Alexandru vergeleek de uitgelezen gegevens daarom ook met handmatig gecontroleerde referentiewaarden. Llama behaalde de hoogste inhoudsscores: ongeveer 63 op 100 in de cloud en 66 lokaal. Zelfs het beste model maakte dus nog fouten. Bij Apertus was het verschil opvallender: ongeveer 55 op 100 in de cloud, maar slechts 15 lokaal. Antwoorden konden netjes in de gevraagde vorm staan terwijl hun inhoud fout was. Mogelijk speelt de compressie van dit model een rol; de precieze oorzaak vraagt verder onderzoek.
Een correcte vorm garandeert geen juiste gegevens. De scores vergelijken vier uitgelezen velden met handmatig gecontroleerde waarden. Onderaan staat per veld hoe vaak het antwoord klopt. Bron: onderzoek Alexandru Poenaru.
Die kwaliteitscontrole kreeg een plaats in de beslissingsboom die Alexandru ontwikkelde. Het hulpmiddel leidt bedrijven door negen afwegingen, waaronder privacy, beschikbare apparatuur, gebruiksvolume, stroommix en antwoordkwaliteit. Privacy kan de keuze bepalen voordat kosten en energie aan bod komen. Als vertrouwelijke gegevens de bedrijfsomgeving niet mogen verlaten, kan lokale verwerking noodzakelijk zijn. Gevoelige informatie vooraf verwijderen kan cloudverwerking mogelijk maken, maar die stap is in de proef niet uitgewerkt.
Voor Turtle Srl is de cloud aantrekkelijk, mits de privacyvoorwaarden vervuld zijn. Andere bedrijven kunnen met de beslissingsboom hun eigen situatie beoordelen. Zo krijgt de energiefactuur een tweede betekenis: wie AI inzet om duurzaamheid te meten, moet ook het verbruik van dat hulpmiddel kennen en controleren of de uitgelezen cijfers kloppen.
Bibliografie
Apertus, P., Hernández-Cano, A., Hägele, A., Huang, A. H., Romanou, A., Solergibert, A.-J., Pasztor, B., Messmer, B., Garbaya, D., Ďurech, E. F., Hakimi, I., Giraldo, J. G., Ismayilzada, M., Foroutan, N., Moalla, S., Chen, T., Sabolčec, V., Xu, Y., Aerni, M., … Schlag, I. (2025). Apertus: Democratizing Open and Compliant LLMs for Global Language Environments. https://doi.org/10.48550/ARXIV.2509.14233
Artifex Software, Inc. (2024). pymupdf4llm: PDF to Markdown for LLM ingestion. GitHub.
Bai, G., Chai, Z., Ling, C., Wang, S., Lu, J., Zhang, N., Shi, T., Yu, Z., Zhu, M., Zhang, Y., Song, X., Yang, C., Cheng, Y. & Zhao, L. (2024). Beyond Efficiency: A Systematic Survey of Resource-Efficient Large Language Models. https://doi.org/10.48550/ARXIV.2401.00625
Bai, S., Cai, Y., Chen, R., Chen, K., Chen, X., Cheng, Z., Deng, L., Ding, W., Gao, C., Ge, C., Ge, W., Guo, Z., Huang, Q., Huang, J., Huang, F., Hui, B., Jiang, S., Li, Z., Li, M., … Zhu, K. (2025). Qwen3-VL Technical Report. https://doi.org/10.48550/ARXIV.2511.21631
Bannour, N., Ghannay, S., Névéol, A. & Ligozat, A.-L. (2021). Evaluating the carbon footprint of NLP methods: a survey and analysis of existing tools. In N. S. Moosavi, I. Gurevych, A. Fan, T. Wolf, Y. Hou, A. Marasović & S. Ravi (Red.), Proceedings of the Second Workshop on Simple and Efficient Natural Language Processing (pp. 11–21). Association for Computational Linguistics. https://doi.org/10.18653/v1/2021.sustainlp-1.2
Berthelot, A., Caron, E., Jay, M. & Lefèvre, L. (2024). Estimating the environmental impact of Generative-AI services using an LCA-based methodology. Procedia CIRP, 122, 707–712. https://doi.org/10.1016/j.procir.2024.01.098
Bulian, J., Schäfer, M. S., Amini, A., Lam, H., Ciaramita, M., Gaiarin, B., Hübscher, M. C., Buck, C., Mede, N. G., Leippold, M. & Strauß, N. (2023). Assessing Large Language Models on Climate Information. https://doi.org/10.48550/ARXIV.2310.02932
Caravaca, F., Cuevas, Á. & Cuevas, R. (2025). From Prompts to Power: Measuring the Energy Footprint of LLM Inference. https://doi.org/10.48550/ARXIV.2511.05597
Cho, J. e.a. (2024). Data Center Energy Evaluation Tool Development and Analysis of Power Usage Effectiveness with Different Economizer Types in Various Climate Zones [Open Access via MDPI]. Buildings, 14(1), 299. https://www.mdpi.com/2075-5309/14/1/299
Clemm, C., Stobbe, L., Wimalawarne, K. & Druschke, J. (2024). Towards Green AI: Current status and future research. https://doi.org/10.48550/ARXIV.2407.10237
CodeCarbon Contributors. (g.d.). Methodology. Verkregen 26 maart 2026, van https://docs.codecarbon.io/latest/explanation/methodology/
Courty, B., Schmidt, V., Goyal-Kamal, MarionCoutarel, Feld, B., Lecourt, J., LiamConnell, SabAmine, inimaz, supatomic, Léval, M., Blanche, L., Cruveiller, A., ouminasara, Zhao, F., Joshi, A., Bogroff, A., Saboni, A., de Lavoreille, H., … MinervaBooks. (2024). mlco2/codecarbon: v2.4.1. https://doi.org/10.5281/ZENODO.11171501
Courty, B., Schmidt, V., Goyal-Kamal, inimaz, MarionCoutarel, Blanche, L., Feld, B., Lecourt, J., LiamConnell, Saboni, A., LLORET, P., SabAmine, supatomic, Léval, M., cianc, Cruveiller, A., ouminasara, Zhao, F., Bauer, C., … rosekelly6400. (2026). mlco2/codecarbon: v3.2.6 (Versie v3.2.6). Zenodo. https://doi.org/10.5281/zenodo.19334697
Dong, Y., Ruan, C. F., Cai, Y., Lai, R., Xu, Z., Zhao, Y. & Chen, T. (2024). XGrammar: Flexible and Efficient Structured Generation Engine for Large Language Models. https://doi.org/10.48550/ARXIV.2411.15100
Ember. (2026). Electricity Data Explorer: Carbon Emissions Intensity [Data geraadpleegd via de interactieve Electricity Data Explorer; geselecteerde indicator: CO₂-intensiteit (totale brandstofmix); referentiejaar: 2025]. Verkregen 7 mei 2026, van https://ember-energy.org/data/electricity-data-explorer/?entity=Belgium…
European Central Bank. (2026). Euro foreign exchange reference rates. Verkregen 8 mei 2026, van https://www.ecb.europa.eu/stats/policy_and_exchange_rates/euro_referenc…
Eurostat. (2022). Electricity prices for non-household consumers - bi-annual data (from 2007 onwards). https://doi.org/10.2908/NRG_PC_205
Fernandez, J., Na, C., Tiwari, V., Bisk, Y., Luccioni, S. & Strubell, E. (2025). Energy Considerations of Large Language Model Inference and Efficiency Optimizations. https://doi.org/10.48550/ARXIV.2504.17674
Fischer, R. (2025). Ground-Truthing AI Energy Consumption: Validating CodeCarbon Against External Measurements. https://doi.org/10.48550/ARXIV.2509.22092
Fu, Z., Chen, F., Zhou, S., Li, H. & Jiang, L. (2024). LLMCO2: Advancing Accurate Carbon Footprint Prediction for LLM Inferences. https://doi.org/10.48550/ARXIV.2410.02950
GenAI Impact. (g.d.-a). Environmental Impacts of LLM Inference. Verkregen 26 maart 2026, van https://ecologits.ai/0.10/methodology/llm_inference/
GenAI Impact. (g.d.-b). Tutorial: Providers: Hugging Face Hub. Verkregen 26 maart 2026, van https://ecologits.ai/latest/tutorial/providers/huggingface_hub/
Gerganov, G. & contributors. (2023). llama.cpp: Port of Facebook’s LLaMA model in C/C++. GitHub.
ggml-org. (2023). llama.cpp Grammar — GBNF Guide. Verkregen 16 mei 2026, van https://github.com/ggml-org/llama.cpp/blob/master/grammars/README.md
Grattafiori, A., Dubey, A., Jauhri, A., Pandey, A., Kadian, A., Al-Dahle, A., Letman, A., Mathur, A., Schelten, A., Vaughan, A., Yang, A., Fan, A., Goyal, A., Hartshorn, A., Yang, A., Mitra, A., Sravankumar, A., Korenev, A., Hinsvark, A., … Ma, Z. (2024). The Llama 3 Herd of Models. https://doi.org/10.48550/ARXIV.2407.21783
Hacker, P. (2023). Sustainable AI Regulation. https://doi.org/10.48550/ARXIV.2306.00292
Han, W., Pawlek, J. & Sivakumar, A. (2025, maart 7). Evaluating Local and Cloud-Based Large Language Models for Simulating Consumer Choices in Energy Stated Preference Surveys (onderzoeksrap.). Imperial College London. Verkregen 15 oktober 2025, van https://arxiv.org/pdf/2503.10652
Hugging Face. (2026). Hugging Face Inference Providers. Verkregen 4 mei 2026, van https://huggingface.co/inference/models
Järvenpää, H., Lago, P., Bogner, J., Lewis, G., Muccini, H. & Ozkaya, I. (2023). A Synthesis of Green Architectural Tactics for ML-Enabled Systems. https://doi.org/10.48550/ARXIV.2312.09610
Jiang, A. Q., Sablayrolles, A., Mensch, A., Bamford, C., Chaplot, D. S., Casas, D. d. l., Bressand, F., Lengyel, G., Lample, G., Saulnier, L., Lavaud, L. R., Lachaux, M.-A., Stock, P., Scao, T. L., Lavril, T., Wang, T., Lacroix, T. & Sayed, W. E. (2023). Mistral 7B. https://doi.org/10.48550/ARXIV.2310.06825
Jiang, Y., Roy, R. B., Kanakagiri, R. & Tiwari, D. (2025). WaterWise: Co-optimizing Carbon- and Water-Footprint Toward Environmentally Sustainable Cloud Computing. https://doi.org/10.48550/ARXIV.2501.17944
Khan, T., Motie, S., Kocak, S. A. & Raza, S. (2025). Optimizing Large Language Models: Metrics, Energy Efficiency, and Case Study Insights. https://doi.org/10.48550/ARXIV.2504.06307
Kim, Y. G., Gupta, U., McCrabb, A., Son, Y., Bertacco, V., Brooks, D. & Wu, C.-J. (2023). GreenScale: Carbon-Aware Systems for Edge Computing. https://doi.org/10.48550/ARXIV.2304.00404
Krupp, L., Geißler, D., Lukowicz, P. & Karolus, J. (2025). Towards Sustainable Web Agents: A Plea for Transparency and Dedicated Metrics for Energy Consumption. https://doi.org/10.48550/ARXIV.2502.17903
Lacoste, A., Luccioni, A., Schmidt, V. & Dandres, T. (2019). Quantifying the Carbon Emissions of Machine Learning. https://doi.org/10.48550/ARXIV.1910.09700
Lannelongue, L., Grealey, J. & Inouye, M. (2021). Green Algorithms: Quantifying the Carbon Footprint of Computation. Advanced Science, 8(12). https://doi.org/10.1002/advs.202100707
Lee, B. C., Brooks, D., van Benthem, A., Gupta, U., Hills, G., Liu, V., Pierce, B., Stewart, C., Strubell, E., Wei, G.-Y., Wierman, A., Yao, Y. & Yu, M. (2024). Carbon Connect: An Ecosystem for Sustainable Computing. https://doi.org/10.48550/ARXIV.2405.13858
Lei, J. e.a. (2022). Prediction of Overall Energy Consumption of Data Centers in Different Locations [Open Access via PubMed Central (PMC)]. Energies, 15(11), 3964. https://pmc.ncbi.nlm.nih.gov/articles/PMC9145178/
Li, P., Yang, J., Islam, M. A. & Ren, S. (2023). Making AI Less ”Thirsty”: Uncovering and Addressing the Secret Water Footprint of AI Models. https://doi.org/10.48550/ARXIV.2304.03271
Local AI Master Research Team. (2026). AI VRAM Requirements: How Much GPU Memory for Every Model. Verkregen 4 mei 2026, van https://localaimaster.com/blog/vram-requirements-2026
Luccioni, A. S., Gamazaychikov, B., Strubell, E., Hooker, S., Jernite, Y. & Wu, C.-J. (2025). AI Energy Score Leaderboard. Verkregen 26 mei 2026, van https://huggingface.co/spaces/AIEnergyScore/Leaderboard
Milutinović, M. & Lukić, M. (2025). HOW GREEN IS YOUR ALGORITHM? ASSESSING THE CARBON FOOTPRINT OF MACHINE LEARNING. Safety engineering & management - science, industry, education (SEMSIE 2025), 87–94. https://doi.org/10.46793/semsie25.087m
Morrison, J., Na, C., Fernandez, J., Dettmers, T., Strubell, E. & Dodge, J. (2025). Holistically Evaluating the Environmental Impact of Creating Language Models. https://doi.org/10.48550/ARXIV.2503.05804
Nowtricity. (2025a). CO₂ Emissions per kWh in Belgium. Verkregen 8 december 2025, van https://www.nowtricity.com/country/belgium/
Nowtricity. (2025b). CO₂ Emissions per kWh in Italy. Verkregen 20 oktober 2025, van https://www.nowtricity.com/country/italy/
NVIDIA, : Basant, A., Khairnar, A., Paithankar, A., Khattar, A., Renduchintala, A., Malte, A., Bercovich, A., Hazare, A., Rico, A., Ficek, A., Kondratenko, A., Shaposhnikov, A., Bukharin, A., Taghibakhshi, A., Barton, A., Mahabaleshwarkar, A. S., Shen, A., … Chen, Z. (2025). NVIDIA Nemotron Nano 2: An Accurate and Efficient Hybrid Mamba-Transformer Reasoning Model. https://doi.org/10.48550/ARXIV.2508.14444
NVIDIA Corporation. (2020). NVIDIA Ampere GA102 GPU Architecture Whitepaper [Geverifieerde bron voor de Ampere-architectuur die aan de basis ligt van de GeForce RTX 30-serie.]. Verkregen 21 april 2026, van https://www.nvidia.com/content/dam/en-zz/Solutions/geforce/ampere/pdf/N…
Phillips, N. (2022, oktober 26). Beyond PUE: A New Class of Data Center Metrics. Verkregen 8 mei 2026, van https://www.solunacomputing.com/wp-content/uploads/2022/10/Beyond-PUE-S…
Pydantic Developers. (2025). Pydantic Documentation. Verkregen 1 mei 2026, van https://docs.pydantic.dev/
Qi, S., Milojicic, D., Bash, C. & Pasricha, S. (2023). SHIELD: Sustainable Hybrid Evolutionary Learning Framework for Carbon, Wastewater, and Energy-Aware Data Center Management. https://doi.org/10.48550/ARXIV.2308.13086
Rincé, S. & Banse, A. (2025a, november 13). Announcing major improvements in our methodology. Verkregen 11 mei 2026, van https://ecologits.ai/latest/blog/2025/11/13/major-methodology-update-20…
Rincé, S. & Banse, A. (2025b). EcoLogits: Evaluating the Environmental Impacts of Generative AI. Journal of Open Source Software, 10(111), 7471. https://doi.org/10.21105/joss.07471
Samsi, S., Zhao, D., McDonald, J., Li, B., Michaleas, A., Jones, M., Bergeron, W., Kepner, J., Tiwari, D. & Gadepally, V. (2023). From Words to Watts: Benchmarking the Energy Costs of Large Language Model Inference. https://doi.org/10.48550/ARXIV.2310.03003
Sapkota, R., Raza, S. & Karkee, M. (2025). Comprehensive Analysis of Transparency and Accessibility of ChatGPT, DeepSeek, And other SoTA Large Language Models. https://doi.org/10.48550/ARXIV.2502.18505
Shumba, N., Tshekiso, O., Li, P., Fanti, G. & Ren, S. (2024). A Water Efficiency Dataset for African Data Centers. https://doi.org/10.48550/ARXIV.2412.03716
Singh, A., Patel, N. P., Ehtesham, A., Kumar, S. & Khoei, T. T. (2024). A Survey of Sustainability in Large Language Models: Applications, Economics, and Challenges. https://doi.org/10.48550/ARXIV.2412.04782
Song, Y., Mi, Z., Xie, H. & Chen, H. (2023). PowerInfer: Fast Large Language Model Serving with a Consumer-grade GPU. https://doi.org/10.48550/ARXIV.2312.12456
TechPowerUp. (2020). NVIDIA GeForce RTX 3070 Specifications. Verkregen 12 mei 2026, van https://www.techpowerup.com/gpu-specs/geforce-rtx-3070.c3674
Turtle-Srl. (2026). ViVACE. Verkregen 25 maart 2026, van https://www.turtlesrl.com/en/vivace-model/
Wan, Z., Wang, X., Liu, C., Alam, S., Zheng, Y., Liu, J., Qu, Z., Yan, S., Zhu, Y., Zhang, Q., Chowdhury, M. & Zhang, M. (2023). Efficient Large Language Models: A Survey. https://doi.org/10.48550/ARXIV.2312.03863
Wang, X., Du, H., Gao, Y. & Kim, D. I. (2025). AOLO: Analysis and Optimization For Low-Carbon Oriented Wireless Large Language Model Services. https://doi.org/10.48550/ARXIV.2503.04418
Wu, C.-J., Raghavendra, R., Gupta, U., Acun, B., Ardalani, N., Maeng, K., Chang, G., Behram, F. A., Huang, J., Bai, C., Gschwind, M., Gupta, A., Ott, M., Melnikov, A., Candido, S., Brooks, D., Chauhan, G., Lee, B., Lee, H.-H. S., … Hazelwood, K. (2021). Sustainable AI: Environmental Implications, Challenges and Opportunities. https://doi.org/10.48550/ARXIV.2111.00364
Xu, M., Cai, D., Wu, Y., Li, X. & Wang, S. (2023). FwdLLM: Efficient FedLLM using Forward Gradient. https://doi.org/10.48550/ARXIV.2308.13894
Xu, M., Yin, W., Cai, D., Yi, R., Xu, D., Wang, Q., Wu, B., Zhao, Y., Yang, C., Wang, S., Zhang, Q., Lu, Z., Zhang, L., Wang, S., Li, Y., Liu, Y., Jin, X. & Liu, X. (2024). A Survey of Resource-efficient LLM and Multimodal Foundation Models. https://doi.org/10.48550/ARXIV.2401.08092
Yuan, L., Han, D.-J., Wang, S. & Brinton, C. G. (2025, februari 18). Local-Cloud Inference Offloading for LLMs in Multi-Modal, Multi-Task, Multi-Dialogue Settings (onderzoeksrap.). Purdue University; Yonsei University; IBM T. J. Watson Research Center. Verkregen 15 oktober 2025, van https://arxiv.org/pdf/2502.11007
