RETELE NEURONALE ARTIFICIALE. APLICATII IN SPORT

Dr. ing. Dan Boboc, INCS

Cuvinte cheie: retea neuronala, prelucrare informatie,invatare, aplicatie in sport

1. Prelucrarea neuronala a informatiei

Sfarsitul anilor '80 a marcat o perioada de cercetari legate de dezvoltarea unui nou mod de abordare a prelucrarii informatiei in sistemele de calcul. Acest mod a fost denumit fie conectionism, fie retele neuronale artificiale, fie prelucrare neuronala, fie procesare paralela, toate fiind sinonime pentru acel tip de prelucrare a informatiei, care, spre deosebire de clasicul drum al inteligentei artificiale bazate pe algoritmi, cauta sa simuleze procesele de gandire ale creierului bazate pe experienta.

Prelucrarea neuronala a datelor reprezinta, in fapt, elaborarea si studiul unor retele cu noduri adaptabile, care, prin parcurgerea unui proces de invatare din exemple, inmagazineaza cunoastere prin experienta, disponibila pentru utilizare in scopul in care a fost creata reteaua. Termenul de adaptabil utilizat pentru nodurile retelei reprezinta proprietatea nodului de a reactiona corect, chiar daca stimulul venit nu este exact acelasi cu cel invatat.

Aceasta reprezentare a nodului adaptiv face evidenta asocierea cu neuronul, nodul adaptiv al creierului. Creierul uman are, in medie, 10¹¹ neuroni, organizati in structuri complexe.

Neuronul (figura de mai jos) este alcatuit dintr-un corp celular numit perikarion, corp care contine nucleul si din prelungiri protoplasmatice de doua tipuri: axon (cilindric, lung, de obicei unic) si dendrite (multiple si scurte).

Dendritele reprezinta intrarile in neuron, in timp ce axonul este calea de iesire. S-a observat o activitate electrica sub forma unor impulsuri scurte si rapide (aprox 100 impulsuri/secunda) in axon atunci cand neuronul "emite". Neuronii sunt interconectati prin capetele dendritelor, adica prin sinapse, un neuron putand primi intre 5000 si 15000 de semnale de intrare de la axonii altor neuroni. Sinapsele pot fi excitatoare, daca ele ajuta neuronul sa emita, sau inhibitoare daca, prin actiunea lor, il descurajeaza sa mai emita.

Modelul informational al neuronului a fost propus pentru prima data de neurofiziologul Warren McCulloch si logicianul Walter Pitts, in 1943, si modelul lor sta si astazi la baza prelucrarii neuronale a informatiei. Conform acestui model, modificarile sinaptice sunt continue, iar neuronul ia in consideratie toate semnalele sinaptice atat excitatoare, cat si inhibitoare si insumeaza efectele lor determinand daca este sau nu cazul sa emita prin axon. Starii de emisie ii este asociata cifra 1, iar starii de repaus -cifra 0.

Nodul adaptabil, elementul de baza al retelei neuronale artificiale poate fi reprezentat (figura alaturata) ca un dispozitiv electronic cu mai multe intrari, o iesire si doua conexiuni speciale, una pentru introducerea datelor in procesul de invatare, cealalta un comutator de moduri invatare/utilizare. Functia F a nodului reprezinta modalitatea in care fiecarui sir de date de intrare ii este asociata o valoare la iesire.

Daca se noteaza cu X starea neuronului, iar efectul unei legaturi sinaptice este reprezentat printr-o pondere W, atunci efectul unei sinapse asupra neuronului este dat de produsul XW. Ponderea W poate lua valori in domeniul -1...+1, valorile negative caracterizand sinapsele inhibitorii. Deoarece exista o multitudine de sinapse, trebuie atasat un indice j care sa desemneze X_j si W_j ca intrarea si, respectiv, ponderea sinapsei j. Modelul neuronal aduna tot timpul aceste efecte si le compara cu o valoare de prag T; daca suma depaseste aceasta valoare, neuronul va emite. Aceasta este regula de emisie pentru neuronul McCullogh si Pitts si poate fi descrisa matematic cu relatia:

Interpretarea electronica a acestui model relational este prezentata in figura alaturata. Piesele de baza sunt amplificatorul sumator ce furnizeaza la iesire o tensiune proportionala cu suma tuturor produselor de forma XW si comparatorul de tensiune care genereaza o tensiune egala cu unitatea, daca tensiunea la iesirea sumatorului depaseste tensiunea de prag T. Stabilirea valorii ponderilor reglabile W se realizeaza automat, in cursul procesului de invatare.

In baza modelului prezentat, au fost realizate doua tipuri de retele neuronale: retele feed-forward si retele feedback. In cadrul acestor retele neuronii sunt dispusi in unul sau mai multe straturi ce nu pot fi accesate direct, numite straturi ascunse, accesul fiind liber numai la intrarile si respectiv iesirile din retea (figura de mai jos).

Retelele feedforward actioneaza intre terminale de intrare si cele de iesire, invatand sa asocieze sirurilor de date de intrare - date de iesire. In retelele feedback informatia poate circula intr-o bucla si de la iesire la intrare, creand o asa-numita intrare interna.

Ambele tipuri de retele se subordoneaza unor reguli de emisie care determina daca neuronul va emite sau nu pentru fiecare sir de date de intrare. Aceste reguli sunt asociate cu fiecare conexiune din retea, determinand ponderea acestor conexiuni. In urma aplicarii regulilor de emisie, reteaua devine capabila de generalizare, deci de a furniza un raspuns adecvat pentru siruri de date de intrare pe care nu le-a parcurs in decursul procesului de antrenare.

Algoritmii de invatare se bazeaza pe conditia ca, atunci cand ponderile se recalculeaza pentru un nou set de date de intrare sa nu apara o discontinuitate cu ceea ce s-a realizat pentru seturile anterioare. Bazele biologice ale acestor legi deriva din ipoteza ca daca un neuron este intr-o retea in care o intrare sinaptica emite continuu in acelasi timp in care emite si neuronul, atunci ponderea acelei legaturi sinaptice va creste (Donald Hebb, 1949). Dezavantajul acestei conceptii este acela ca lasa responsabilitatea emisiei neuronului pe seama actiunii (eventual invatate) a unor sinapse.

Desi tehnica propusa de Hebb a fost utila in investigarea retelelor neurale, o alta regula s-a dovedit mai potrivita, regula delta (Bernard Widrow, 1962). Regula delta poate fi descrisa in urmatorii pasi:

1) se selecteaza un sir de date de intrare;

2) la detectarea unei erori in raspunsul retelei se calculeaza abaterea fata de valoarea dorita la iesire;

3) se ajusteaza ponderile active (care emit) si valoarea de prag pentru a corecta o parte din eroare;

4) inapoi la pasul 1 pana cand nici un set de date de intrare nu mai cauzeaza erori.

Modelul McCulloch si Pitts a fost imbunatatit de Frank Rosenblatt in 1962 prin adaugarea unor unitati fixe de preprocesare a caror sarcina este de a extrage trasaturi specifice din semnalele de intrare. S-a nascut astfel perceptronul, definit ca dispozitiv de recunoastere a modelelor, dotat in plus cu unitati de preprocesare, nmite si unitati asociative.

2. Procesul invatarii in retelele neuronale artificiale

Principiul paradigmei prelucrare neuronala a informatiei statuteaza ca retelele neurale pot fi antrenate numai prin exemple introduse din exterior. Cu alte cuvinte, orice algoritm de invatare care se foloseste in retelele multistrat are la baza estimarea erorii la iesire. Aceasta este asa-numita problema a invatarii dificile (hard learning) si este una din cele mai importante probleme ale retelelor neuronale.

Un pas important in depasirea acestei probleme l-a facut biologul si chimistul american John Hopfield, in 1982, prezentand retelele neurale ca pe niste memorii adresabile la continut (memorii asociative). Prin lucrarile sale, el a avut doua contributii majore. In primul rand, a dezvoltat un tip de analiza a retelelor care utilizeaza conceptul de energie si a concluzionat ca o retea atinge, in functionare, minimul energetic, dupa care sirul semnalelor de iesire nu se mai modifica, deci se ajunge la o stabilitate. In al doilea rand, el a aratat ca reguli de invatare precum regula delta, din perspectiva analizei energetice, nu sunt altceva decat o cale de a reduce energia unei stari a retelei la minimum.

Modelul Hopfiel (vezi Nota 1) are dezavantajele lui; cel mai important este legat de "intepenirea" retelei neurale in minime energetice false.

Calea scaparii sistemului neural din minimele false a fost gasita de Geoffrey Hinton in 1986 si consta in utilizarea "zgomotului", adica aplicarea unui anumit grad de incertitudine energiei de stare. Intuitiv, acest lucru poate fi ilustrat reprezentand starea retelei ca pe o bila pe o suprafata ondulata (figura de mai sus). Daca bila are o proprietate interna care o face sa "topaie", este foarte probabil ca ea va petrece cel mai mult timp in valea cea mai adanca la care poate ajunge.

Fenomenul de sporire a miscarii aleatoare a moleculelor unui gaz la cresterea temperaturii gazului, descoperit si studiat de Ludwig Boltzmann spre sfarsitul secolului al 19-lea, sta la baza activarii retelelor neurale. Prin analogie cu cercetarile lui Boltzmann, gradul de incertitudine introdus in aprecierea starii unei retele neurale a primit numele de temperatura (vezi Nota 2). Astfel, la temperatura zero, reteaua se va comporta conform modelului Hopfield, in timp ce la temperaturi mai inalte, un grad de incertitudine proportional cu temperatura se introduce in chiar functia de activare a neuronului.

Daca acest lucru are avantajul ca ajuta reteaua sa scape din minimele false, reversul medaliei este ca reteaua nu se mai stabilizeaza. Tot Hinton a sugerat utilizarea unui "regim termic" prin care sa se depaseasca acest neajuns: pornirea retelei la temperatura inalta si racirea ei treptata in timpul functionarii pana la atingerea "echilibrului termic". In acest fel, reteaua are cele mai mari sanse sa sfarseasca intr-o stare asociata celui mai jos minim ce poate fi atins pornind de la datele de intrare specifice. Acest mod de tratare a retelelor neurale a primit numele de calire simulata.

Pornind de la presupunerea ca nu toate unitatile unei retele sunt definite prin setul de date de invatare, Hinton a demonstrat necesitatea unor unitati ascunse, esentiale in rezolvarea problemei invatarii dificile. Procedura de invatare, care se bazeaza doar pe informatia daca unitatile vizibile se comporta corect sau nu, trebuie sa asigure ca si unitatile ascunse sa-si dezvolte propriile ponderi si praguri si acestea sa fie corecte.

Asa cum s-a aratat anterior, exista doua tipuri de retele neurale: retele feedforward si retele feedback. Pentru retelele feedback este simplu a se introduce in bucla semnalul asociat erorii la iesire in scopul diminuarii ei in timpul antrenarii. In ce priveste retelele feedforward, care sunt si cele mai utilizate, ele nu pot lucra liber din cauza lipsei reactiei de informare; de aceea, este necesara o metoda de antrenare a unitatilor ascunse printr-un proces de propagare a erorii masurate inapoi, de la iesire. Straturile ascunse pot fi privite ca locul din retea in care datele de intrare sunt partial prelucrate si etichetate, inainte ca in stratul de iesire sa se fi ajuns la rezultatul final. In aceste straturi, se formeaza reprezentari ce nu sunt furnizate ca atare in timpul antrenarii. In acest caz, metoda de lucru poarta numele de propagarea inversa a erorii si are drept scop minimizarea erorii globale la iesire, definita ca semi-suma patratelor tuturor erorilor de iesire ale neuronilor.

Procesul de antrenare prin propagarea inversa a erorii comporta doi pasi. Primul este pasul inainte, in timpul caruia sunt aplicate datele de intrare si lasate sa se desfasoare pana la iesire. Sunt calculate valorile de iesire si sunt comparate cu valorile tinta (care trebuie sa fie cunoscute). In timpul pasului inapoi, erorile calculate in urma comparatiei de la pasul intai sunt propagate inapoi pentru a se recalcula ponderile legaturilor neuronale, pana in stratul de intrare. Urmeaza un alt pas inainte, un alt pas inapoi, pana la minimizarea erorii in limita prestabilita. Evident, procesul se incheie cand reteaua a invatat sa reproduca probabilitatile de stare si se considera complet antrenata.

3. Aplicatii ale retelelor neuronale artificiale in sport

 Inca din momentul in care programele de generare si antrenare a unor retele neuronale artificiale au fost disponibile la preturi accesibile, multi 'fani' ai sporturilor au simtit ca sunt pe cale sa-si indeplineasca un vis vechi : castigarea unor pariuri importante la curse de cai sau ogari. Unul dintre acesti impatimiti rezuma problema astfel : « Constructia unei retele neuronale artificiale depinde in mod hotarator de cat de bine ti-ai definit problema in minte. Cel mai dificil este insa sa decizi ce informatii ii vei furniza si de unde le preiei. » Avand la indemana statistici ale unor concursuri si informatii despre concurenti, precum si un program precum BrainMaker, rezultatele au fost spectaculoase.

 Evenimente, precum campionatele mondiale de fotbal, nu au scapat nici ele atentiei. In ajunul celui mai recent campionat mondial, o echipa de cercetatori de la Universitatea din Ulster, Irlanda, Departamentul de Stiinte Medicale si Studii in Sport au realizat un model probabilistic bazat pe o retea neuronala si au simulat turneul pe computer, de mai mult de 2000 de ori, pentru a prezice rezultatele meciurilor si castigatoarea cupei. In cursul simularilor, a fost luata in considerare influenta urmatorilor factori asupra sansei de a marca un gol: clasificarea FIFA din iunie, distanta pe care au avut-o de strabatut echipele pentru a juca diversele meciuri, avantajul jocului acasa, efectul schimbarii repetate a locului de joc din Coreea in Japonia si invers, posibilitatea de refacere dupa meciul anterior, timpii de odihna intre confruntari.

In 24,8% din cazuri (cea mai mare rata), Brazilia a fost desemnata castigatoare. Totusi, trebuie sa spunem ca predictia exacta a fost ca ea va invinge in finala Italia, ceea ce nu s-a intamplat pentru ca aceasta a fost facuta KO de Coreea de Sud in repriza a doua a semifinalei. Aceeasi retea neuronala nu le-a dat motive de bucurie suporterilor de acasa, irlandezi si britanici, prezicand ca, desi vor castiga in grupe, vor pierde la Spania si Franta in prima infruntare eliminatorie. Cat despre revelatia turneului, Coreea de Sud, ea a fost indicata calificata in grupe in 67% din cazuri, calificata in sferturi in 22%, calificata in semifinale in 3% si fara nici o sansa de a castiga cupa.

 Sa ramanem inca in domeniul fotbalului, unde antrenorii si doctorii au cautat dintotdeauna „globul de cristal" in care sa prevada cu o clipa mai devreme posibilitatea unei accidentari sau a unei indisponibilitati ale jucatorilor-cheie. AC Milan are astazi un astfel de oracol: un software bazat pe retele neuronale artificiale, suficient de destept (vezi antrenat) pentru a recunoaste semnele precursoare unei astfel de situatii critice pentru un jucator. Totul a plecat de la accidentarea serioasa a lui Fernando Redondo, in cursul unui antrenament de rutina, intr-un moment in care nici cerneala nu se uscase pe contractul de mai multe milioane de dolari semnat de jucator cu clubul italian.

Acum, jucatorii clubului sunt testati la 15 zile: fiecare jucator este obligat sa poarte un set de 18-24 senzori pe toata durata testarilor (joc de antrenament, alergari, sprinturi, lucru cu aparatele din sala de gimnastica). Senzorii transmit informatiile prin radio unui post central care 'hraneste' o retea neuronala artificiala. Tot aici ajung si informatii de natura psihologica, precum si despre dieta fiecarui jucator. O serie de alti factori favorizanti sunt luati in calcul: echipamentul, oboseala, gradul de antrenare, vremea, starea terenului.

Reteaua a fost antrenata cu informatii din peste 5000 de teste facute in ultimii patru ani, a ajuns la o precizie de predictie a situatiilor generatoare de accidentari de 84% si se fac eforturi pentru a creste aceasta precizie la 96%.

„Daca vad ceva in neregula la un jucator si nu pot spune exact ce, este greu sa-i spun antrenorului sa nu-l foloseasca la urmatoarea partida" - spune seful echipei medicale, dr. Jean Pietre Meersseman. Reteaua neuronala este astazi capabila sa valideze ceea ce doctorii deseori au intuit, iar antrenorul va adapta strategia sa la noile conditii si constrangeri.

Un studiu derulat in 1998 la Universitatea Griffith, Australia, deschide calea predictiei performantelor atletilor, utilizand investigatiile de tip EMG (electromiografie) si prelucrand datele cu software de retele neuronale artificiale. Metodele de analiza a coordonarii musculare la un sportiv sunt susceptibile a da acestuia un feedback capabil sa-i ajute sistemul nervos sa obtina un control mai bun al actiunii muschilor. O asemenea metoda este electromiografia, focalizata pe cateva aspecte principale, clinice si kinesiologice, din care primele doua sunt determinante in obtinerea performantei:

• capacitatea muschiului de a trece de la starea de activare la repaus si invers, la un moment precis,
• amplitudinea contractiei musculare,
• momentul aparitiei fenomenului de oboseala in muschiul aflat in contractie.

pentru achizitie.

Semnalele EMG (tempo si amplitudine) au fost apoi preluate de o retea neuronala de tip feedforward cu un singur strat ascuns. Dupa antrenarea retelei, aceasta a fost capabila sa prezica inaltimea sariturii, cu o precizie sub 0,02m in 92,6% din cazuri. Aceasta informatie a fost utilizata ca feedback pentru sportiv, pentru antrenarea si cresterea gradului de control neuromuscular.

 La Universitatea din Dublin, Irlanda, s-a incheiat un proiect privitor la determinarea pragului anaerob la atleti, prin monitorizarea ritmului cardiac si prelucrand rezultatele cu ajutorul retelelor neuronale. Sistemul astfel construit si antrenat cu date obtinute din lucrul atletilor la covorul rulant este capabil sa furnizeze antrenorului date pentru optimizarea efortului atletilor, cu aplicatie indeosebi in sporturile de rezistenta. Sistemul inlocuieste cu succes vechiul test Conconi, se aplica mai usor si are o precizie net superioara.

 Preocupari similare se regasesc la Universitatea din Oulu, Finlanda, unde a fost pus la punct un sistem similar, NeuroAerobic, in care prelucrarea informatiei se face tot prin retele neuronale, dar care, in plus, este capabil sa determine si VO₂max cu o precizie de 96%.

 Cele mai recente aplicatii ale procesarii neuronale a informatiei in sport se refera la prelucrarea de imagine, in scopul recunoasterii formelor si clasificarii sau in scopul identificarii traiectoriilor in vederea analizei si optimizarii lor.

Abstract

In a world dominated by computers and information technologies, even sports could not resist the temptation of using such powerful tools for its advantage. The new paradigm of information processing through artificial neural networks (ANN) gave a new impulse for specific research in sports, since learning from experience is the most common thing athletes and coaches do. The paper is a brief introduction in the vast theory of artificial neural networks, followed by some examples of how its specific methods can be applied to sport research, athletes monitoring and even improving sport performance.

Bibliografie

Aleksander, I.; Morton, H., An Introduction to Neural Computing. London, Chapman and Hall, 1990

Boboc, D., Diagnosticarea vibroacustica a masinilor-unelte. Teza de doctorat, Universitatea Politehnica din Bucuresti, 1996

Ringwood, J., Anerobic Threshold Measurement Using MLP Neural Nets. HTML Document, Dublin City University

Väinämö, K.; Mäkikallio, T.; Tulppo, M.; Röning, J., Artificial Neural Network for Aerobic Fitness Approximation, International Conference on Neural Networks (ICNN '96), Washington DC, USA, 1996

Verma, B.; Lane, C., Vertical Jump High Prediction Using EMG Characteristics and Neural Networks. HTML Document, Griffith University, Australia