Applications of anomaly detection for predictive maintenance at the JET tokamak / Toepassingen van anomaliedetectie voor predictief onderhoud in de JET-tokamak

Andries Rosseau
The worldwide effort on fusion research aims to realize a means of producing clean and safe energy for future generations. At the JET tokamak, extensive research is being performed to help accomplish this goal, but as with all complex machinery, component failures occur. In this work, two failure cases at JET are addressed with the goal of predictive maintenance by means of anomaly detection and other machine learning techniques.

Op weg naar een betrouwbare kernfusiereactor met behulp van artificiële intelligentie

JETFusionReactor

 

 

 

 

 

 

 

 

 

 

 

 

OP WEG NAAR EEN BETROUWBARE KERNFUSIEREACTOR MET BEHULP VAN ARTIFICIËLE INTELLIGENTIE

 

Hoe kunnen we onze snel groeiende wereld voorzien van schone en veilige energie? Het is een vraag die vandaag meer dan ooit relevant is. Kernfusiewetenschappers proberen een antwoord te bieden door de energieopwekkende processen uit de zon na te bootsen in een fusiereactor op aarde. In een ideale wereld zijn alle element in zo'n complexe machine perfect op elkaar afgesteld en doet elk onderdeel zijn werk naar behoren. Maar hoe voorkomen we dat er in de werkelijkheid toch iets fout loopt en een duur experiment mislukt? In dit onderzoek wordt artificiële intelligentie naar voren geschoven als nieuwe bondgenoot.

De Joint European Torus, of JET, is de grootste werkende experimentele kernfusiereactor in de wereld, gelegen in Culham, nabij Oxford. Wat daar gebeurt, kan vergeleken worden met het recreëren van wat zich afspeelt in het binnenste van een ster. Al sinds 1983 wordt bij JET fundamenteel onderzoek verricht naar kernfusie door wetenschappers uit wel 28 verschillende landen. Kernfusie is het proces waarbij twee zware waterstofkernen samengebracht worden bij heel hoge temperaturen om ze te fusioneren tot helium. Tijdens dat proces komt heel veel energie vrij: een kilogram fusiebrandstof vormt het equivalent van ongeveer zeven miljoen kilogram olie. Deze brandstof kan voor een deel eenvoudig gewonnen worden uit zeewater en wordt voor het andere deel geproduceerd in de reactor zelf. Bovendien is kernfusie ook nog eens een nagenoeg CO2-neutrale bron van energie en worden er geen langlevende radioactieve stoffen geproduceerd, zoals wel het geval is bij traditionele kerncentrales. De reden waarom we nog geen gebruik kunnen maken van deze veelbelovende energiebron zit in de moeilijkheid om de fusiebrandstof lang genoeg op de ongelooflijk hoge temperaturen te houden die vereist zijn voor een winstgevende operatie van de reactor. Voor kernfusie spreken we dan ook over temperaturen van meer dan 100 miljoen graden Celsius. Een manier om ervoor te zorgen dat deze extreem hete deeltjes niet in contact komen met hun omgeving, is ze op te sluiten in een sterk magnetisch veld. Dat is ook precies wat in JET gebeurt: miljoenen onderdelen werken er minutieus samen om de fusiebrandstof op te warmen in het magnetische veld, en ze daarna ook weer weg te voeren uit de reactor. Soms gaat er iets fout in dit complexe proces en laat een onderdeel in de machine het afweten op een cruciaal moment. Dit leidt niet alleen tot een mislukt experiment, maar brengt ook vaak frustraties met zich mee bij de onderzoekers. Herstellingen van deze fouten kunnen veel geld kosten en nemen vaak een lange tijd in beslag, wat het onderzoek naar kernfusie uiteindelijk vertraagt.

 

        "Voor kernfusie spreken we dan ook

        over temperaturen van meer

        dan 100 miljoen graden Celsius."

 

Artificial intelligence to the rescue

Om dergelijke tegenslagen in de toekomst te voorkomen werd onderzocht of slimme algoritmes al dan niet in staat zijn om afwijkende datapatronen in de fusiereactor op te sporen. Wanneer deze algoritmes vervolgens zo'n afwijkend patroon vaststellen, kunnen de onderzoekers gewaarschuwd worden zodat tijdig kan worden ingegrepen.

Twee onderdelen van de experimentele JET reactor werden tijdens dit onderzoek onder de loep genomen, en voor elk van hen werd een specifiek algoritme gebouwd. Het eerste luik van het onderzoek focust op enkele frequente mankementen bij de JET turbomoleculaire pompen. Die vormen een deel van het systeem dat instaat voor het ultrahoge vacuüm in de reactor. Zo'n hoog vacuüm is nodig om ervoor te zorgen dat het kernfusiemengsel niet vervuild raakt met andere stoffen. Bovendien zorgt het vacuümsysteem er ook voor dat na een experiment alle fusiedeeltjes netjes verwijderd worden uit de reactor.

De eerste stap in het voorkomen van nieuwe fouten in het vacuümsysteem bestaat uit het bouwen van een neuraal netwerk. Neurale netwerken zijn geavanceerde machine learning algoritmes bestaande uit kunstmatige neuronen die samen informatie kunnen verwerken, gelijkaardig aan de manier waarop ons brein dat doet. Hier werd het neuraal netwerk getraind in het zo goed mogelijk herkennen van gezonde datapatronen afkomstig van sensoren die het systeem monitoren. Wanneer het neurale netwerk vervolgens na een tijdje nieuwe binnenkomende data niet meer herkent, wordt een alarmsignaal verzonden. Het resultaat is een algoritme dat onderzoekers kan waarschuwen wanneer afwijkend gedrag zich voordoet, zodat een opknapbeurt van het systeem ingelast kan worden en het vacuümsysteem niet op een onverwacht moment stopt met werken.

Ook kernfusie heeft al eens wat warmte nodig

Het tweede onderzochte onderdeel maakt deel uit van het centrale systeem dat de fusiebrandstof opwarmt. Om de hoge temperaturen te bereiken die nodig zijn voor kernfusiereacties is veel energie nodig. Die energie wordt geleverd vanuit een zware ronddraaiende schijf, een zogenaamde 'vliegwiel generator'. Voor de verplaatsing van de hoge elektrische stroom van duizenden Ampères zijn stevige geleiders en schakelaars nodig die tegen een stootje kunnen. Er is één belangrijke schakelaar die het vaak zwaar te verduren krijgt tijdens dit proces: de zogenaamde S1-schakelaar. Na vele experimenten werkt deze schakelaar soms niet meer, waardoor de stroomtransitie niet correct meer kan verlopen. Om onderzoekers te waarschuwen wanneer een schakelaar aan vervanging toe is, werd een algoritme ontwikkeld dat de typische ouderdomsverschijnselen van een vermoeide schakelaar leert herkennen. Hiervoor werd gekeken naar twee belangrijke spanningssignalen. Wanneer het verschil tussen beide signalen gedurende een specifieke halve milliseconde uitgezet wordt in een 32-dimensionale ruimte, kan het algoritme een duidelijk onderscheid maken tussen gezonde data en data geproduceerd door een vermoeide schakelaar. Als resultaat kan het algoritme nu opnieuw een waarschuwingssignaal versturen wanneer te veel onnauwkeurigheden worden waargenomen, om uiteindelijk erger te voorkomen.

Wat nu?

Met de resultaten van beide onderdelen wil dit onderzoek het potentieel van artificiële intelligentie aantonen in de zoektocht naar een operationele kernfusiereactor. Hopelijk voelen fusie-enthousiastelingen zich aangesproken om de fascinerende methodes uit de artificiële intelligentie verder toe te passen in het onderzoek naar kernfusie, en zo mee bij te dragen aan de ontwikkeling van een schone en veilige energiebron voor de hele wereld.

Bibliografie

[1] O. Hoegh-Guldberg et al., ”Impacts of 1.5ºC Global Warming on Natural and Human Systems,” in: Global Warming of 1.5°C. An IPCC Special Report on the impacts of global warming of 1.5°C above pre-industrial levels and related global greenhouse gas emission pathways, in the context of strengthening the global response to the threat of climate change, sustainable development, and efforts to eradicate poverty, In Press. [

2] T. Bruckner et al., ”Energy Systems,” in: Climate Change 2014: Mitigation of Climate Change. Contribution of Working Group III to the Fifth Assessment Report of the Intergovernmental Panel on Climate Change, Cambridge University Press, Cambridge, United Kingdom and New York, NY, USA, 2014.

[3] B. Marr, ”How much data do we create every day?,” forbes.com, May 21, 2018. [Online]. Available: https://www.forbes.com/sites/bernardmarr/2018/05/21/how-much-datado-we-…. [Accessed: May 13, 2019].

[4] J. Desjardins, ”What happens in an internet minute in 2017?,” World Economic Forum, Aug. 31, 2017. [Online]. Available: https://www.weforum.org/agenda/2017/08/whathappens-in-an-internet-minut…. [Accessed: May 13, 2019].

[5] DOMO, ”Data Never Sleeps 5.0,” domo.com, n.d. [Online]. Available: https://www.domo.com/learn/data-never-sleeps-5. [Accessed: May 12, 2019].

[6] K. Smith, ”Facebook statistics,” brandwatch.com, Jan. 5, 2019. [Online]. Available: https://www.brandwatch.com/blog/facebook-statistics/. [Accessed: May 13, 2019].

[7] F. Richter, ”Smartphones cause photography boom,” statista.com, Aug. 31, 2017. [Online]. Available: https://www.statista.com/chart/10913/number-of-photos-taken-worldwide/. [Accessed: May 12, 2019].

[8] C. Frey and M. Osborne, “The future of employment: how susceptible are jobs to computerization?” Oxford University paper, Sept. 17, 2013.

[9] J. Freidberg, Plasma Physics and Fusion Energy. New York: Cambridge University Press, 2007.

[10] F. Chen, Introduction to Plasma Physics. Springer US, 1974.

[11] S. Li et al., ”Optimal Tracking for a Divergent-Type Parabolic PDE System in Current Profile Control,” Abstract and Applied Analysis, June 11, 2014. REFERENCES 119

[12] Euratom CEA, ”Magnetic confinement,” Institut de Recherche sur la Fusion Magn´etique - CEA, Sep. 9, 2016. [Online]. Available: http://www-fusionmagnetique.cea.fr/gb/fusion/physique/modesconfinement…. [Accessed: May 26, 2019].

[13] R. Arnoux, ”ITER ... And then what?” ITER, May, 2014. [Online]. Available: https://www.iter.org/mag/3/22. [Accessed: May 26, 2019].

[14] P. Norvig and Stuart Russell, Artificial Intelligence: A Modern Approach, 3rd ed. Upper Saddle River, NJ : Prentice Hall, 2010.

[15] D. Wolpert, ”The Lack of A Priori Distinctions between Learning Algorithms,” in Neural Computation, pp. 1341-1390, 1996.

[16] S. P. Lloyd, ”Least squares quantization in PCM,” Information Theory, IEEE Transactions on 28.2, pp. 129-137, 1982.

[17] D. A. Reynolds, ”Gaussian Mixture Models,” in Encyclopedia of Biometrics, 2009.

[18] I. Jolliffe and J. Cadima, ”Principal component analysis: a review and recent developments,” in Philos Trans A Math Phys Eng Sci., April 13, 2016. [Online]. Available: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4792409/. [Accessed: June 7, 2019].

[19] D.E. Rumelhart, G.E. Hinton, and R.J. Williams, ”Learning internal representations by error propagation,” Parallel Distributed Processing. Vol 1: Foundations. MIT Press, Cambridge, MA, 1986.

[20] I. Shafkat, ”Intuitively Understanding Variational Autoencoder,” Towards Data Science, Feb. 4, 2018. [Online]. Available: https://towardsdatascience.com/intuitivelyunderstanding-variational-aut…. [Accessed: June 8, 2019].

[21] S. Perera, R. Alwis, ”Machine Learning Techniques for Predictive Maintenance,” InfoQ, May 21, 2017. [Online]. Available: https://www.infoq.com/articles/machine-learningtechniques-predictive-ma…. [Accessed: June 9, 2019].

[22] M. Barlow, ”Predictive maintenance: A world of zero unplanned downtime,” O’Reilly, Feb. 15, 2015. [Online]. Available: https://www.oreilly.com/ideas/predictive-maintenance. [Accessed: June 9, 2019].

[23] V. Chandola, A. Banerjee and V. Kumar, ”Anomaly Detection : A Survey,” ACM Computing Surveys (CSUR), vol. 41, no. 3, Article No. 15, July 2009.

[24] E. Hannan, Multiple time series, Wiley series in probability and mathematical statistics. New York: John Wiley and Sons, 1970.

[25] J. Brownlee, ”8 Tactics to Combat Imbalanced Classes in Your Machine Learning Dataset,” Machine Learning Mastery, August 19, 2015. [Online]. Available: https://machinelearningmastery.com/tactics-to-combat-imbalanced-classes…. [Accessed: June 9, 2019]. REFERENCES 120

[26] B. Sch¨olkopf, J.C. Platt, J. Shawe-Taylor, A.J. Smola, R.C. Williamson, ”Estimating the Support of a High-Dimensional Distribution,” Neural Computation, 2001.

[27] B. Gal I. ”Bayesian Networks,” in Encyclopedia of Statistics in Quality and Reliability, F. Ruggeri, R.S. Kennett, F.W. Faltin, Eds., John Wiley & Sons, 2007.

[28] O. Capp´e, Inference in Hidden Markov Models, Springer, 2007.

[29] K. Mehrotra, C. MohanHua, H. Huang, Clustering-Based Anomaly Detection Approaches, Springer, 2017.

[30] A. Baru, ”Three Ways to Estimate Remaining Useful Life for Predictive Maintenance,” MathWorks, n.d. [Online]. Available: https://www.mathworks.com/company/newsletters/articles/three-ways-to-es…. [Accessed: June 5, 2019].

[31] S. Hochreiter and J. Schmidhuber, ”Long short-term memory,” in Neural Computation, 1997.

[32] C. Yeh et al., ”Matrix Profile I: All Pairs Similarity Joins for Time Series: A Unifying View that Includes Motifs, Discords and Shapelets,” in 16th IEEE International Conference on Data Mining, 2016.

[33] D. De Paepe, O. Janssens and S. Van Hoecke, ”Eliminating noise in the matrix profile,” in Proceedings of the 8th International Conference on Pattern Recognition Applications and Methods, 2019. pp.84-93.

[34] University of California, ”The UCR Matrix Profile Page,” University of California, n.d. [Online]. Available: https://www.cs.ucr.edu/ eamonn/MatrixProfile.html. [Accessed: May 31, 2019].

[35] scikit-learn, ”Manifold learning,” scikit-learn, n.d. [Online]. Available: https://scikitlearn.org/stable/modules/manifold.html. [Accessed: June 2, 2019].

[36] P. Rousseeuw, M. Hubert and S. Van Aelst, ”Multivariate Outlier Detection and Robustness,” in Handbook of Statistics, vol. 23: Data Mining and Computation in Statistics, C.R. Rao, E. Wegman, and J.L. Solka, Eds. Amsterdam: Elsevier North-Holland, 2005, pp. 263-302.

[37] T. Kuzin and T. Borovicka, ”Early Failure Detection for Predictive Maintenance of Sensor Parts,” in ITAT 2016 Proceedings, CEUR Workshop Proceedings, vol. 1649, pp. 123–130, 2016.

[38] D. Clevert, T. Unterthiner and S. Hochreiter, ”Fast and Accurate Deep Network Learning by Exponential Linear Units (ELUs),” in International Conference on Learning Representations 2016 [Online]. Available: arXiv, https://arxiv.org/abs/1511.07289. [Accessed: May 3, 2019].

[39] Cross Validated, ”Can I use ReLU in autoencoder as activation function?” Stack Exchange, April 19, 2017. [Online]. Available: REFERENCES 121 https://stats.stackexchange.com/questions/144733/can-i-use-relu-in-auto…. [Accessed: June 3, 2019].

[40] S. J. Lacey, ”The Role of Vibration Monitoring in Predictive Maintenance,” Schaeffler, INA, FAG, n.d. [Online]. Available: https://www.schaeffler.com/remotemedien/media/ - shared media/08 media library/01 publications/schaeffler 2/technicalpaper 1/download - 1/the role of vibration monitoring.pdf. [Accessed: June 4, 2019].

[41] PWW, ”How to use Condition Based Maintenance Strategy for Equipment Failure Prevention,” PWW, n.d. [Online]. Available: https://www.lifetime-reliability.com/cms/freearticles/maintenance-manag…. [Accessed: June 4, 2019].

[42] J. Stephens, ”Switch Detection Automation,” Unfinished manuscript, UK Atomic Energy Authority, 2019.

[43] A.P. Dempster, N.M. Laird, D.B. Rubin, ”Maximum Likelihood from Incomplete Data via the EM Algorithm,” Journal of the Royal Statistical Society, 1977.

[44] M. Peikari, S. Salama, S. Nofech-Mozes and A. L. Martel, ”A Cluster-then-label Semisupervised Learning Approach for Pathology Image Classification,” Scientific Reports 8, Article number: 7193, 2018.

[45] G. Seif, ”The 5 Clustering Algorithms Data Scientists Need to Know,” Towards Data Science, Feb 5, 2018. [Online]. Available: https://towardsdatascience.com/the-5-clusteringalgorithms-data-scientis…. [Accessed: June 11, 2019].

[46] E. L. Kaplan, P. Meier, ”Nonparametric estimation from incomplete observations,” J. Amer. Statist. Assoc. 53 (282), 1958.

Universiteit of Hogeschool
Fysica en Sterrenkunde
Publicatiejaar
2019
Promotor(en)
Professor Geert Verdoolaege, Professor Sofie Van Hoecke
Kernwoorden
Share this on: