Acasă IT-Tehnologia Informatiei Inteligența artificială produce schimbări „epocale” și rapide la nivelul întregii omeniri...

Inteligența artificială produce schimbări „epocale” și rapide la nivelul întregii omeniri (Corespondență de la Conf. dr. Nicolae Grigorie-Lăcrița)

Inteligența artificială (notată cu „IA”) este orice cunoaştere, informaţie care nu provine de la om, este inteligența care provine de la mașini, de la computere, de la programe informatice, de la calculatoare, de la roboţi (coordonaţi de computere). Inteligența artificială se referă la sisteme sau la mașini care imită inteligența umană, pentru a efectua diverse activități și care se pot îmbunătăți iterativ având deci capacitatea de a învăța pe baza informațiilor pe care le colectează. Inteligența artificială va fi cea care va produce schimbări „epocale” și rapide (până în anul în jurul anului 2050) la nivelul întregii omeniri.

Aproape că nimic nu va mai fi ca mai înainte. „Imperiul inteligenței artificiale” vine incredibil de repede, cu schimbări „epocale” și dintre cele mai diferite, de la foarte benefice pentru cei care au capacitatea să îl prevadă și să se adapteze la acesta, până la catastrofale cu adevărat pentru mulți dintre ceilalți. Exemplele din acest material (dintre multele de acest fel care se pot da) sunt relevante pentru a înțelege temeinicia acestor afirmații.

1. Până în anul 1998, Eastman Kodak era cea mai mare companie din lume (americană) care producea diverse materiale și echipamente fotografice. Cu cei 170.000 de angajați ai săi producea și vindea 85% din toată hârtia foto din întreaga lume. Începând din anul 2000 au început să fie folosite camerele de fotografiat digitale, care au cunoscut, în foarte scurt timp, o dezvoltare explozivă. După această dată aproape că nimeni nu a mai făcut poze cu role de film și cu aparate foto. În doar trei ani „obiectul muncii” (adică producerea hârtiei de fotografiat) firmei Kodak a dispărut, fapt pentru care a și dat faliment. Cu numai 3 – 4 ani în urmă ar fi crezut cineva că este posibil acest lucru? Desigur că nu. De reținut că, de fapt, camerele digitale au fost inventate în 1975. În numai 20 de ani de la inventarea noii tehnologii fotografice s-a schimbat radical lumea fotografiei.

Dezvoltarea exponențială a tehnologiilor  bazate pe inteligența artificială va face ca ceea ce s-a întâmplat cu Kodak să se întâmple cu o mulțime de alte industrii în următorii ani. Fiecare (persoană fizică sau firmă) trebuie să gândească și să se pregătească nu atât de mult pentru ceea ce există „în lumea de azi”, cât pentru ceea ce va fi „lumea de mâine”.

Cine (la nivel de persoană, familie, firmă și societate în ansamblul său) va continua să se pregătească cu gândul numai la ceea ce există în ziua de azi (prin a privi numai până la vârful nasului) și nu se va pregăti serios și pentru „lumea de mâine” (prin a scruta viitorul), în special prin pregătirea tinerei generații, nu va mai avea loc (bun) în viitor. Acest val al falimentelor va continua să vină fără oprire pe baza schimbărilor determinate de dezvoltarea exponențială a tehnologiilor bazate pe inteligența artificială. Așa după cum am mai arătat, inteligența artificială va face ca aproape că nimic să nu mai semene cu ceea ce a fost mai înainte, să nu mai fie ca mai înainte.

2Activitățile bazate pe software produc schimbări rapide și radicale (și incredibile în urmă cu numai câțiva ani) în modul în care trăim și facem afaceri. Spre exemplu, UBER este doar un instrument software, nu dețin nici o singură mașină și acum este cea mai mare companie de taxi din lume. Era de crezut așa ceva în urmă cu numai câțiva ani? Desigur că nu.

UBER este o companie multinațională americană, cu sediul în San Francisco și operează în peste 785 de zone metropolitane din întreaga lume. Platformele sale pot fi accesate prin intermediul site-urilor web și al aplicațiilor mobile. Aplicația permite pasagerilor să se conecteze direct prin GPS-ul telefonului mobil cu cea mai apropiată mașină cu șofer înregistrată în baza de date a Uber. Contractarea serviciului și plata se desfășoară exclusiv prin intermediul Uber și nu personal cu șoferul. La destinație, pasagerul nu achită fizic nimic. Tariful este calculat de program în funcție de distanță, viteză și condițiile de trafic. Serviciile nu se plătesc fizic, contravaloarea călătoriei este reținută în mod automat de pe cardul clientului prin intermediul contului de client. Șoferii își primesc banii într-un depozit și au dreptul la o anumită cotă din nota de plată, restul rămânând companiei. Compania nu lucrează cu companii de taxi obișnuite, ci cu companii de transport și cu șoferi individuali. Șoferii înscriși în aplicație pot munci când vor și cât vor.

Alt exemplu. AIRBNB a devenit cea mai mare companie hotelieră din lume, și aceasta în condițiile în care nu dețin nici o singură proprietate. AIRBNB este companie americană înființată în 2008 care deține o platformă online prin care se pot închiria, oriunde în lume, camere, apartamente sau case întregi direct de la proprietar. Compania deține un serviciu de închirieri de 600.000 de listări în mai mult de 190 de țări.

Câți dintre „hotelierii clasici” ar fi crezut așa ceva în urmă cu numai câțiva ani? Nu numai că nici unul, dar aceștia au serioase semne de întrebare cu viitorul lor. În condițiile unor asemenea schimbări radicale, rapide și de neimaginat în urmă cu numai câțiva ani, mulți oameni (în special întreprinzători) sunt dezamăgiți și aceasta din cauză că nici nu pot să prevadă ce neplăceri (până la faliment) le poate aduce viitorul apropiat și cu atât mai mult pe termen lung (spre exemplu, dacă mai pot fie siguri că afacerea lor mai poate fi desfășurată și de copii lor).

3. Un foarte bun exemplu, care afectează întreaga populație a globului, este cu mașinile electrice și cu șofer automat. Despre mașinile auto electrice și despre mașinile cu „șofer automat” a început să se vorbească în urmă cu numai câțiva ani. În 2018 au fost puse în funcțiune primele mașini cu „șofer automat”, cu „șofer inteligență artificială”.

Acum, în anul 2021, toți marii producători de mijloace de transport auto își reconsideră din temelii strategia de producție, tot mai mulți hotărând construirea de „computere pe roți”, de „mașini cu șofer inteligență artificială”. Tot mai mult dintre marile companii (Tesla, Volkswagen, Audi etc.) vor produce numai vehicule electrice, iar dintre acestea cele mai multe vor fi (în următorii 8 – 10 ani) cu „șofer automat”. Mașinile electrice vor deveni generalizate în jurul anului 2030, iar nu peste mult timp vor fi numai  cu șofer automat. Acestea vor schimba radical viața omenirii în sensul că:

3.1. Oamenii nu vor mai deține o mașină deoarece va fi mai simplu și eficient să apeleze, cu telefonul mobil, o mașină, care va sosi la locul indicat și îi va conduce unde doresc.

3.2. Fiecare va plăti numai distanța parcursă, iar pe parcursul acesteia poate să se concentreze asupra unor activități (poate să fie productiv).

3.3. Nu vor mai fi atâtea probleme cu parcarea.

3.4. Aplicațiile inteligenței artificiale vor fi atât de mari încât se va ajunge ca, cei care vor fi peste 30 – 50 de ani, să nu mai dețină niciodată permis de conducere și să nu mai deține niciodată o mașină proprietate personală.

3.5. Mașinile personale vor fi cu circa 90 – 95% mai puține, ceea ce va genera numeroase și deosebit de mari efecte benefice pentru întreaga omenire, dintre care sunt de amintit fie și numai reducerea cu circa 95 – 99% a numărului de accidente și a oamenilor morți din acestea, de circa 1,2 – 1,5  milioane în prezent.

3.6. Mașinile electrice și cu pilot automat vor schimba foarte mult orașele în sensul că: vor fi mai puțin zgomotoase; vor avea și un aer mult mai curat; vor avea foarte mult de câștigat prin valorificarea fostelor locuri de parcare; se va elimina poluarea fonică și atmosferică; vor determina tot mai mulți oameni să facă naveta (în timp ce pot lucra), să se mute mai departe de marile aglomerații urbane, pentru a trăi într-un mediu mai sănătos și mai plăcut.

4. „Computerele pe roți” (adică „mașinile electrice și cu șofer automat”) vor conduce la dispariția service-urile pentru reparații auto.  Un motor pe benzină are 20.000 de piese individuale. Un motor electric are de 1.000 de ori mai puține piese decât unul pe benzină, respectiv de circa 20 în loc de 20.000. Mașinile electrice (și cu atât mai mult cele care au șofer automat) sunt vândute cu garanții pe viață și sunt reparate numai de reprezentanții firmelor vânzătoare. Activitățile de reparații vor cunoaște schimbări radicale. Spre exemplu, a scoate și a înlocui un motor electric va dura doar 10 minute. Motoarele defecte ale acestora nu vor mai fi reparate oricum, ci vor fi trimise la un atelier de reparații zonal care le repară cu roboți. La „computerele pe roți”, în caz de defecțiuni la lumini, există o rezervă de iluminare. În cazul în care unei persoane i s-a defect mașina în trafic, la sesizarea telefonică a acesteia i se va aduce o altă mașină, în bună stare, care i se va de spre folosință gratuită până la primirea mașinii sale reparate.

5. În condițiile folosirii de mașini electrice este ușor de înțeles că benzinăriile vor dispărea.Vor exista stații de reîncărcare electrică la tot pasul, inclusiv la domiciliul personal (pentru cei care locuiesc la casă). Contoarele de parcare vor fi înlocuite cu contoare care distribuie electricitate.

6. Peste 95% din activitățile cu asigurările auto vor dispărea deoarece în aceeași măsură (sau chiar mai mare) se vor reduce și accidentele auto.

7. Industriile exploatării cărbunelui vor dispărea.

8. Forarea și prelucrarea țițeiului în scop de carburanți auto vor dispărea și acestea. Țările și marile companii producătoare de de energie (fosilă) bazată pe cărbune și pe țiței vor încerca cu disperare să limiteze accesul la producția de energie regenerabilă, dar nu vor avea succes. Cum inteligența artificială nu lucrează la comenzile personale, subiective ale oamenilor, ci ale computerelor, ale programelor informatice, aceste încercări sunt zadarnice. Cei vizați ar trebui să se gândească serios la alte variante viabile dacă vor să nu dea faliment, să nu vină sărăcia peste ei, sau chiar să-i acopere pustiul.

9. Construcțiile vor capta și vor stoca mari cantități de energie electrică pe parcursul zilei, energie care va putea fi folosită și pe parcursul nopții și al zilelor fără soare. Ceea ce depășește necesarul pentru consumul propriu, se va vinde în rețea. Electricitatea va deveni foarte ieftină și curată, în special pe baza producției de energie solară și a celorlalte forme de energie regenerabilă (precum a vânturilor, a apelor curgătoare, a proceselor biologice și a căldurii geotermale pot fi captate de către oameni utilizând diferite procedee).

10.  În numeroase dintre profesiile actuale se va reduce numărul locurilor de muncă chiar cu până la 90%. Un exemplu bun în acest sens este cu tinerii avocații din SUA, care de pe acum nu mai au locuri de muncă. Super-computerul bazat pe conceptul de inteligență artificială numit „Watson IBM” oferă date, consultații și sfaturi juridice, în deplină legalitate, în câteva secunde, cu o precizie de 90%, în comparație cu o precizie de 70% atunci când sunt făcute de oamenii juriști. Vor rămâne doar elitele erudite.

11. Unele dintre cele mai mari și mai benefice schimbări radicale, epocale, prin aplicarea inteligenței artificiale, au deja loc ÎN MEDICINĂ. Și fiindcă este un domeniu vital pentru fiecare pentru noi, consider că trebuie prezentat mai pe larg.

Watson, numit și Watson IBM, este un sistem computerizat cu inteligență artificială, capabil de a răspunde la întrebări puse în limbaj natural. „Medicul inteligență artificială Watson IBM” este un super-computer bazat pe conceptul de inteligență artificială, care poate fi programat să recunoască și să proceseze comenzi vocale, să recunoască stimuli vizuali și să reacționeze la expresii faciale. „Medicul inteligență artificială Watson” ajută deja doctorii, care diagnostică cancerul, de 4 ori mai exact decât doctorii umani. El elaborează planuri, poate să învețe, să rezolve probleme complexe, imitând capacitatea umană de a lua decizii. Pentru a replica însușirile umane, Watson accesează 90 de servere pe care sunt stocate aproximativ 200 de milioane de pagini de informație (!!!) pe care le procesează într-un timp foarte scurt. Condiția esențială pentru funcționarea și perfecționarea acestui sistem este alimentarea lui continuă cu  cât mai multe date pentru a realiza comparații, clasificări, analize, studii de caz etc. „Omul-IA Watson” face ceea ce unui medic i-ar fi imposibil atât în ceea ce privește timpul, cât și accesul la informație. Sunt studii care arată că un sfert dintre clinicieni consideră că numai pe baza informațiilor oferite de IBM Watson, legate de studiile genetice, pot să stabilească diagnostice corecte. Watson absoarbe date din studii și din protocoale clinice. Capacitatea de a conecta lumea medicală la platformă este nelimitată. Atât medicii, cât și pacienții pot contribui activ cu informații care să permită antrenarea sistemului, pentru a putea face comparații și a oferi soluția optimă pentru fiecare în parte. Sistemul de inteligență artificială oferă opțiuni relevante de tratament care permite medicilor să personalizeze fiecare caz (pacient) într-un mod fără precedent și poate răspunde la întrebările pacienților, de tipul: „La ce doctor să mă programez pentru operație?”, „Cum se manifestă această boală?”. Algoritmii pe baza cărora lucrează Watson  nu au conştiinţă, fapt pentru care deciziile lor nu sunt influenţate de senzaţii, de emoţii, de persoane, de … atenții etc. Dar nu numai „medicul inteligență artificială Watson IBM”  este pe piață ca singurul și cel mai performant.

Întreaga lume, toate țările, în special cele mai dezvoltate (în fruntea cărora se situează, în prezent, SUA ) lucrează din plin la dezvoltarea și perfecționarea sistemului de sănătate bazat cât mai mult pe „medicii inteligență artificială”. Dintre acestea este de exemplificat (spațiul nu permite o abordare mai amplă) fie și numai dispozitivul medical numit „Tricorder” (de la Star Trek), care este un alt „medic inteligență artificială” cu intervenții non-invazive (care nu necesită tăierea pielii) de diagnosticare de sănătate într-un singur pachet portabil (care, inițial, cântărea 5 kg, apoi 2,3 kg iar acum funcționează cu telefonul personal), capabil:

1) să diagnosticheze în mod autonom 13 afecțiuni medicale (12 boli și „absența afecțiunilor”), inclusiv anemie, fibrilație atrială, boală pulmonară obstructivă cronică (BPOC), diabet, leucocitoză, pneumonie, otita medie, apneea de somn și infecția tractului urinar;

2) să înregistreze și să transmită în mod continuu cele 5 semne vitale principale: tensiunea arterială, ritmul cardiac, saturația oxigenului, frecvența respiratorie și temperatura;

3) să scaneze retina, să ia proba de sânge și de respirație, apoi să analizeze 54 de bio-markeri care vor identifica aproape orice boală.

În prezent, deja există zeci de aplicații de telefon pentru scopuri de sănătate. Și Facebook are acum un software de recunoaștere a modelelor care poate recunoaște fețele mai bine decât oamenii. Și în medicină computerele au devenit mai inteligente decât oamenii.

12. Omul inteligență artificială a ajuns deja mai inteligent decât omul natural, decât omul ființă vie. Computerele, pentru care se mai folosește și denumirea de „Omul inteligență artificială”, pe scurt „Omul-IA”, au ajuns deja: 1) să depășească în competiții omul natural, omul ființă vie, și 2) să ajute la o înțelegere atât a lumii în care trăim, cât și a Universului, într-un mod în care nu ar fi fost și nu este posibil fără aceasta.

La data de 11 mai 1997, super-computerul Deep Blue construit de IBM l-a învins pe campionul mondial la șah Kasparov. În anul 2020, un computer l-a bătut pe cel mai bun jucător Go din lume, cu toate că, nu cu mult timp în urmă, se considera că acest lucru va avea loc (cel mai devreme) în jurul anului 2030.

Faptul că un computer învinge la „jocul minții” campionii mondiali nu mai surprinde lumea. De senzație este însă competiție dintre computere. Ziua de 7 decembrie 2017 a fost un moment de răscruce în istoria inteligenței artificiale și aceasta deoarece programul (software-ul) AlphaZero de la Google a învins programul (software-lul) Stokc-fish 8, care era campion mondial din 2016.

Software-ul (memoria, inteligența) unui asemenea computer s-a format pe baza: 1) experienței și a strategiilor (de șah) acumulate de jucătorii de șah de-a lungul secolelor; 2) pe experienței de zeci de ani a computerelor; 3) pe capacitatea de a calcula70 de milioane de mutări de șah pe secundă; 4) pe abilitățile de a de învăța șah jucând împotriva sa însuși. AlphaZero nu a învățat nimic de la nici un om, multe din mutările și strategiile sale câștigătoare  le-au părut neconvenționale specialiștilor în șah. Ele ar putea fi considerate creatoare, dacă nu de-a dreptul geniale(*). Nici un om ființă vie, naturală, nu poate ajunge la puterea de memorare și la capacitate de calcul la care a ajuns deja „Omul-IA”, din șah, din medicină și din diferite alte domenii. Și acesta este începutul.

13. „Inteligența artificialăa ajuns să modifice și ființa umană și să constituie chiar și o amenințare pentru aceasta. Exemplele cu „fertilizarea în vitro” și cu „clonarea reproductivă” sunt edificatoare în acest sens.

Fertilizarea în vitro (FIV) înseamnă crearea embrionului în afara unui act sexual natural, în afara corpului uman, într-un laborator, într-o eprubetă,

Clonarea este o forma de reproducere tot în afara relaţiilor sexuale, tot în afara corpului uman, adică într-un laborator, într-o eprubetă. Un copil produs prin clonare este duplicatul genetic al unei persoane existente. Clona nu va fi nici fiica sau fiul, nici sora sau fratele geamăn al persoanei clonate, ci va intra într-o nouă categorie. Clonarea reproductivă va transforma copiii clonaţi şi oamenii, în general, în obiecte care pot fi construite pentru a prezenta anumite caracteristici, şi anume „copii la comandă”.

Aceste „evoluţii”, de reproducere (concepere) de fiinţe umane în afara relaţiilor sexuale, în afara fiinţei umane, vor face ca: Până la urmă, fiinţa umană va fi fabricată ca un artefact pe măsură, într-un uter artificial având caracteristici alese anterior. Fiinţa umană va deveni atunci un obiect de piaţă”. […] „Graţie formidabilelor progrese pe care le putem aştepta de la nonoştiinţe, fiecare va spera chiar să-şi transfere într-un alt corp conştiinţa de sine, să-şi procure propriul dublu, dar şi copii ale fiinţelor iubite, bărbaţi şi femei de vis, hibrizi fabricaţi cu trăsături particulare selectate astfel încât să corespundă unor obiective precise. Unii vor căuta chiar să depăşească specia umană printr-o formă de viaţă şi de inteligenţă diferită, superioară. În această ultimă versiune a hiperimperiului, moartea va fi amânată până la dispariţia ultimei clone a sinelui care va avea conştiinţă de sine, chiar până la uitarea tuturor clonelor rezultate din propria fiinţă de către toate celelalte clone rezultate din altcineva. Apoi omul fabricat în sfârşit ca un artefact, nu va mai cunoaşte moartea: după modelul tuturor produselor industriale, el nu va mai putea muri, pentru că, de fapt, nu s-a născut niciodată” (**).

Această „ultimă omucidere a oamenilor transformaţi în maşini” nu va avea loc numai dacă omenirea va avea capacitatea să conştientizeze, de pe acum, asupra faptului că această ultimă „dezvoltare” a sa va fi şi ultima.

________________________

(*) A se vedea cartea lui Yuval Noah Harari „21 de lecţii pentru secolul XXI”, Editura Poliom, 2018, pg. 43 – 44.

(**) A se vedea şi Jacques ATTALI „Scurtă istorie a viitorului”, editura Polirom, 2016, pg. 219 – 220.

Conf. dr. Nicolae Grigorie-Lăcrița

Articolele autorului Nicolae Grigorie-Lăcrița în Jurnalul Bucureştiului

Bibliografie

Zapaniștii: „Omul Matrice” într-un spatiu psihosocial (psihologie sociala) cu structuri matematice specifice sistemelor complexe!

La baza acestuia („Omul – matrice”) se află Codul Sociogenetic (GSG), care împreună cu cel Biogenetic (ADN), determină Codul Genetic Personal (CGP), vizualizabil printr-o matrice de corelație care conține toate informațiile „culese” despre o persoană (prin intermediul rețelelor de socializare). Cu alte cuvinte, fiecare dintre noi suntem, un Sistem Complex reprezentat printr-o matrice, într-un spațiu socio–matematic (considerat un sistem formal și complex) în care există elemente cunoscute despre noi și cele necunoscute, care pot fi determinate cu o mare precizie, cu ajutorul principiului de complementaritate. Din punct de vedere științific, acest cod l-am introdus, personal, într-o lucrare științifică în 1981 (Bazele teoretice ale psihologiei matematice și aplicații la studiul comportamentului deviant cu ajutorul sistemelor complexe) sub îndrumarea Acad. Prof. Paul Popescu – Neveanu (1926 – 1994), cu care am avut onoarea să lucrez pe vremea studenției mele, fost profesor și șeful catedrei de psihologie de la Universitatea din București, iar între anii 1990 -1994, fost Director al Institutului de Psihologie al Academiei Române, el însuși, fost elev (preferat) al marelui psiholog matematician, cibernetician, pedagog și filozof român, Profesorul Gheorghe Zapan (1897-1976).

Lucrări științifice ale autorului publicate sub egida  Jurnalul Bucureştiului

Articolul precedentTehomir, o proză fantastică de Horațiu Mălăele (Corespondență de la Grid Modorcea, scriitor, Dr. în Arte)
Articolul următorRemember. Legea vaccinării. Propunerea legislativă și vaccinarea contra coronavirusul 2019-nCoV (SARS-CoV-2)
Fizician teoretician și matematiciancian de formaţie pluri-inter și transdisciplinară, adept şi promotor al educaţiei de excelenţă (gifted education) şi jurnalist de investigaţii criminale francez, de origine română, specializat în MASS (Matematici Aplicate în Științe Sociale), în studiul fenomenelor socio - judiciare cu ajutorul unor structuri matematice complexe (teoria haosului - sisteme complexe, teoria ergodică, teoria teoria categoriilor și rețelelor, cercetarea operațională și teoria sistemelor formale de tip Gödel). Cofondator al IRSCA Gifted Education (Institutul Român pentru Studii şi Cercetări Avansate în Educaţia de Excelenţă), de peste un deceniu și jumătate, este Director de studii în cadrul CUFR România (Conseil Universitaire-Formation-Rechereche auprès des Grandes Ecoles Françaises-Consultanţă Universitară, Studii şi Cercetări de pe lângă Şcolile Superioare Franceze de Înalte Studii), organism educaţional franco-român agreat de stat, având ca obiectiv, consilierea, orientarea şi pregătirea candidaţilor români cu Diplomă de bacalaureat, respectiv ai studenţilor din primul ciclu universitar (Licenţă), la concursurile de admitere în sistemul elitist de învatamânt superior „La conférence des grandes écoles françaises” (Şcolile Superioare Franceze de Înalte Studii - CPGE-Classes Préparatoires aux Grandes Ecoles, Grandes Ecoles) şi Universităţile elitiste franceze (Licenţă, Master). Este autor a peste 600 de lucrări cu caracter științifico–didactic (articole și cărți de matematică și fizică, respectiv, de investigație jurnalistică – atât în limba română cât și în limba franceză, repertoriate și în BNF – Bilibioteca Națională a Franței, „François, Mitterrand”), care au contribuit la promovarea culturii și civilizației franceze în lume, precum și la admiterea a peste 1.000 de tineri români cu abilități intelectuale înalte (absolvenți de liceu și studenți) în școlile superioare franceze de înalte studii – Les Grandes Ecoles (un sistem educațional elitist și unic în lume), în special, în cele științifico–inginerești și economico–comerciale, dintre care, astăzi, majoritatea ca absolvenți, contribuie în calitate de cadre superioare sau de conducere la prosperitatea spirituală și materială a națiunii franceze în cadrul unor prestigioase instituții de învatamânt superior și de cercetare, mari companii private sau de stat, civile si militare, multinaționale, specializate în tehnologia de vârf, respectiv, în cadrul administrației locale și centrale de stat.

LĂSAȚI UN MESAJ

Vă rugăm să introduceți comentariul dvs.!
Introduceți aici numele dvs.