{"id":31076,"date":"2021-06-23T09:00:30","date_gmt":"2021-06-23T07:00:30","guid":{"rendered":"https:\/\/www.monempresarial.com\/2021\/05\/25\/ciencia-ficcion-y-realidad-una-mirada-a-la-etica-aplicada-a-la-ia\/"},"modified":"2025-09-24T11:04:09","modified_gmt":"2025-09-24T09:04:09","slug":"ciencia-ficcio-o-realitat-una-mirada-a-letica-aplicada-a-la-ia","status":"publish","type":"post","link":"https:\/\/www.monempresarial.com\/ca\/2021\/06\/23\/ciencia-ficcio-o-realitat-una-mirada-a-letica-aplicada-a-la-ia\/","title":{"rendered":"Ci\u00e8ncia ficci\u00f3 o realitat Una mirada a l\u2019\u00e8tica aplicada a la IA"},"content":{"rendered":"

\"\"A la literatura i a l’art, hi podem trobar diverses refer\u00e8ncies sobre els aspectes \u00e8tics de la relaci\u00f3 entre l’\u00e9sser hum\u00e0 i les seves pr\u00f2pies creacions. La ci\u00e8ncia ficci\u00f3 ens en deixa m\u00faltiples proves. Si vost\u00e8 \u00e9s seguidor d’aquest g\u00e8nere, recordar\u00e0, probablement, les famoses tres lleis de la rob\u00f2tica que va encunyar l’escriptor Isaac Asimov. La primera d’elles resava: “Un robot no far\u00e0 mal a un \u00e9sser hum\u00e0 ni, per inacci\u00f3, permetr\u00e0 que un \u00e9sser hum\u00e0 prengui mal.” Probablement un dels primers intents, encara que fos literari, de parlar d’un codi \u00e8tic aplicat a la tecnologia.<\/h4>\n

Dr. Marcos Eguiguren. <\/span><\/strong> Director Management, Law, Society and Humanities Department. Co-fundador de SingularNet Consulting.<\/strong><\/h4>\n
\n

Una de les millors mostres dels dilemes home-m\u00e0quina \u00e9s la que reflecteix la pel\u00b7l\u00edcula 2001, una odissea de l\u2019espai<\/em>, dirigida el 1968 per Stanley Kubrick, que compta amb una novel\u00b7la amb el mateix t\u00edtol, escrita en paral\u00b7lel a la filmaci\u00f3 de la pel\u00b7l\u00edcula, per una altra de les icones de la ci\u00e8ncia ficci\u00f3, Arthur C. Clarke. En aquesta hist\u00f2ria, un dels principals protagonistes \u00e9s HAL9000, el s\u00faper ordinador d’Intel\u00b7lig\u00e8ncia Artificial (IA) que dirigeix i controla una nau que ha d\u2019apropar un grup de cient\u00edfics i astronautes a una base lunar. Les estranyes decisions de Hal, tal com l\u2019anomenen els propis astronautes en les seves converses amb l’ordinador, acaben provocant la mort d’alguns d’ells i el frac\u00e0s de la missi\u00f3.
\n\"\"Avui, a difer\u00e8ncia d’Asimov, Clarke o Kubrick en les d\u00e8cades dels anys cinquanta o seixanta del segle passat, ja no parlem de ci\u00e8ncia ficci\u00f3. La Intel\u00b7lig\u00e8ncia Artificial \u00e9s amb nosaltres des de ja fa uns quants anys, i \u00e9s aqu\u00ed per quedar-se i per fer-se cada vegada m\u00e9s sofisticada i complexa. L’evoluci\u00f3 de la IA \u00e9s imparable. Els models de machine learning<\/em> utilitzen algoritmes matem\u00e0tics que recreen arbres de decisi\u00f3 i permeten que les m\u00e0quines aprenguin<\/em>. Aquest model est\u00e0 evolucionant cap al deep learning<\/em> que, utilitzant algoritmes diferents i m\u00e9s sofisticats, permet que els sistemes i les m\u00e0quines puguin aprendre en format de xarxa neuronal, de manera similar al tipus de connexions biol\u00f2giques que succeeixen en el cervell hum\u00e0. A tot aix\u00f2 cal sumar-hi les t\u00e8cniques de processament de llenguatge natural (PNL) i la visi\u00f3 per computador. La combinaci\u00f3 d’aquestes quatre grans categories d’IA situa la humanitat a les portes de noves i enormes possibilitats de desenvolupament, per\u00f2, tamb\u00e9, davant d’un desafiament \u00e8tic maj\u00fascul.
\nSimplificant al m\u00e0xim, l’\u00e8tica \u00e9s la disciplina que tracta d\u2019all\u00f2 que \u00e9s bo i del que \u00e9s dolent, i quan ens referim a ella des de la perspectiva empresarial, no nom\u00e9s parlem del que \u00e9s bo per al negoci, sin\u00f3 del que \u00e9s bo per a les comunitats, stakeholders<\/em>, en els quals opera una empresa. Quan parlem de les empreses que dissenyen i produeixen IA, hi han de regir, per a tot el seu cicle de vida \u2014investigaci\u00f3, disseny, programaci\u00f3, construcci\u00f3, operaci\u00f3 i monitoratge\u2014, els mateixos criteris \u00e8tics que s’apliquen a l’activitat humana. La IA, en totes les seves facetes, ha de respectar el human and planetary wellbeing.<\/em><\/p>\n

\n

La IA, en totes les seves facetes, ha de respectar el human and planetary wellbeing<\/em><\/h2>\n<\/blockquote>\n

GOVERNAN\u00c7A: EL PAPER CLAU DE DIRECTIUS I ENGINYERS <\/strong><\/span>
\nPer descomptat, s’ha escrit molt sobre aquest particular, per\u00f2, sens dubte perqu\u00e8 sorgeix del m\u00f3n dels propis enginyers a nivell internacional, \u00e9s especialment rellevant el document The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems<\/em>, llan\u00e7at per l’Institut d’enginyeria el\u00e8ctrica i electr\u00f2nica (IEEE, per les sigles en angl\u00e8s). En aquesta publicaci\u00f3 es proposa un Ethically aligned Design<\/em> (disseny alineat \u00e8ticament) basat en valors humans universals, i s\u2019hi reconeix la necessitat de la creaci\u00f3 d’est\u00e0ndards \u00e8tico-t\u00e8cnics, i fins i tot s’apunta la possibilitat de la creaci\u00f3 d’organismes certificadors.
\n\"\"Els mateixos principis d’aquest “disseny alineat \u00e8ticament” s\u00f3n una adaptaci\u00f3 dels que trobar\u00edem en altres branques de l’activitat humana: drets humans, benestar hum\u00e0, efic\u00e0cia, transpar\u00e8ncia, responsabilitat, conscienciaci\u00f3 sobre l’\u00fas indegut i els riscos de la IA, ag\u00e8ncia independent per mantenir la capacitat de la persona per tenir control sobre la seva identitat i, finalment, compet\u00e8ncia per a un funcionament segur i efica\u00e7 de la IA.
\n\u00c9s curi\u00f3s que sigui el mateix document de l’IEEE, i no les institucions p\u00fabliques, qui suggereix obrir la possibilitat d’oferir educaci\u00f3 sobre \u00e8tica i seguretat per sensibilitzar la societat, en general, sobre els m\u00faltiples riscos potencials derivats d’un \u00fas inadequat de la IA.
\nEn qualsevol cas, l’aparici\u00f3 de principis \u00e8tics que afecten el desenvolupament de la IA situa les professions que hi estan relacionades \u2014molt especialment els diversos tipus d’enginyeries, igual com ja ha passat amb moltes altres professions en el passat\u2014 davant d\u2019un escenari de deure fiduciari. Per\u00f2, l\u00f2gicament, aquest escenari de deure fiduciari tamb\u00e9 afecta de manera directa l’alta direcci\u00f3 i els consells i \u00f2rgans de governan\u00e7a de tot tipus d’empreses tecnol\u00f2giques amb capacitat per crear IA.<\/p>\n

REGULAR, S\u00cd, PER\u00d2 SENSE ENCOTILLAR<\/span>
\nNo solament cal tenir uns principis \u00e8tics clars, sin\u00f3 que tard o d’hora, la legislaci\u00f3 haur\u00e0 d’aclarir quines s\u00f3n les q\u00fcestions b\u00e0siques de responsabilitat que afecten el desenvolupament de la IA al llarg de totes les seves fases de vida. Tots els implicats han de con\u00e8ixer els seus drets i les seves obligacions. \u00c9s cert que l’aplicaci\u00f3 de principis diferents en les diferents grans \u00e0rees econ\u00f2miques del m\u00f3n \u2014la Xina, els EUA i la UE, per citar les tres principals\u2014 donarien probablement lloc a regulacions diferents; per\u00f2, seria convenient intentar arribar a acords globals, almenys en una s\u00e8rie de principis m\u00ednims, perqu\u00e8 no hi hagi dificultats en la implementaci\u00f3 posterior de les iniciatives d’IA en certs pa\u00efsos.
\nEn el cas d’Europa, quan arribi el moment de legislar i regular al respecte, caldria exigir-li a la UE que, d’una vegada per totes, ho faci d’una manera assenyada i oberta, que permeti una regulaci\u00f3 flexible, suficient per a una protecci\u00f3 intel\u00b7ligent dels usuaris, basada en principis comunament acceptats, per\u00f2 que no es converteixi en una cotilla inintel\u00b7ligible que dificulti la innovaci\u00f3 en IA i que acabi engrandint la difer\u00e8ncia de desenvolupament que, en aquest camp, ja hi ha entre les empreses l\u00edders en altres zones del planeta i les de la Uni\u00f3 Europea.<\/p>\n

\n

No podem oblidar que la transpar\u00e8ncia acaba esdevenint un factor higi\u00e8nic que facilita i impulsa conductes \u00e8tiques. El sector de la IA no hi \u00e9s ali\u00e8<\/h2>\n<\/blockquote>\n

PER UNA IA SENSE LLETRA PETITA<\/span><\/span>
\nCom succeeix en totes les activitats humanes, tant p\u00fabliques com privades, la utilitzaci\u00f3 de principis \u00e8tics comunament acceptats \u00e9s imprescindible per a un desenvolupament harm\u00f2nic i respectu\u00f3s de la Intel\u00b7lig\u00e8ncia Artificial, de les moltes iniciatives i serveis que ja estan en marxa avui i, sobretot, de les molt\u00edssimes novetats que veurem en els propers anys.
\nEls alts directius i els \u00f2rgans d’administraci\u00f3 de les companyies implicades en el seu desenvolupament i, per descomptat, la professi\u00f3 d’enginyer en la seva concepci\u00f3 m\u00e9s \u00e0mplia, han d’abra\u00e7ar clars principis \u00e8tics i, sobretot, actuar amb total transpar\u00e8ncia en les diverses fases d’implementaci\u00f3 de les iniciatives en IA. No podem oblidar que la transpar\u00e8ncia acaba esdevenint un factor higi\u00e8nic que facilita i impulsa conductes \u00e8tiques. El sector de la IA no hi \u00e9s ali\u00e8.
\nNo cal que recorrem a la ci\u00e8ncia ficci\u00f3 per endevinar els perills que poden derivar-se d’una implementaci\u00f3 inadequada de la IA. Ja estem observant, avui dia, el que pot passar quan no hi ha un respecte maj\u00fascul per la privacitat o quan determinats algoritmes imposen biaixos inadequats en les recomanacions de certs programes. Estem a temps per evitar un m\u00f3n en el qual h\u00e0gim de patir els deliris de nous HAL9000.<\/p>\n

 <\/p>\n

\"\"<\/p>\n","protected":false},"excerpt":{"rendered":"

A la literatura i a l’art, hi podem trobar diverses refer\u00e8ncies sobre els aspectes \u00e8tics de la relaci\u00f3 entre l’\u00e9sser hum\u00e0 i les seves pr\u00f2pies creacions. La ci\u00e8ncia ficci\u00f3 ens en deixa m\u00faltiples proves. Si vost\u00e8 \u00e9s seguidor d’aquest g\u00e8nere, recordar\u00e0, probablement, les famoses tres lleis de la rob\u00f2tica que va encunyar l’escriptor Isaac Asimov. La primera d’elles resava: “Un robot no far\u00e0 mal a un \u00e9sser hum\u00e0 ni, per inacci\u00f3, permetr\u00e0 que un \u00e9sser hum\u00e0 prengui mal.” Probablement un dels primers intents, encara que fos literari, de parlar d’un codi \u00e8tic aplicat a la tecnologia.<\/p>\n","protected":false},"author":1,"featured_media":31074,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_mi_skip_tracking":false,"mc4wp_mailchimp_campaign":[],"jnews-multi-image_gallery":[],"jnews_single_post":[],"jnews_primary_category":[]},"categories":[16,9,10815,10844,12],"tags":[4953,8054,8086,480,752],"_links":{"self":[{"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/posts\/31076"}],"collection":[{"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/comments?post=31076"}],"version-history":[{"count":1,"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/posts\/31076\/revisions"}],"predecessor-version":[{"id":47613,"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/posts\/31076\/revisions\/47613"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/media\/31074"}],"wp:attachment":[{"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/media?parent=31076"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/categories?post=31076"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/tags?post=31076"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}