{"id":43713,"date":"2024-04-15T09:52:44","date_gmt":"2024-04-15T07:52:44","guid":{"rendered":"https:\/\/www.monempresarial.com\/2024\/04\/02\/son-los-llm-los-nuevos-oraculos\/"},"modified":"2025-09-24T10:34:42","modified_gmt":"2025-09-24T08:34:42","slug":"son-els-llm-els-nous-oracles","status":"publish","type":"post","link":"https:\/\/www.monempresarial.com\/ca\/2024\/04\/15\/son-els-llm-els-nous-oracles\/","title":{"rendered":">S\u00f3n els LLM els nous oracles?"},"content":{"rendered":"

A l\u2019antiga Gr\u00e8cia calia viatjar a certs llocs sagrats per saber alguna cosa del futur o rebre alguna recomanaci\u00f3. Per exemple, els oracles de Zeus es van originar a Dodona o Ol\u00edmpia. Tamb\u00e9 van ser reconegudes Delfos i Cumas. Hi havia sibil\u00b7les, profetes o pregadeus, que s\u00f3n tres dels noms dels qui actuaven com a portadors de la veu del d\u00e9u. <\/strong><\/p>\n

ULISES CORT\u00c9S. <\/span>Catedr\u00e0tic d’Intel\u00b7lig\u00e8ncia Artificial de la UPC <\/strong><\/h4>\n
\n

El cas de la Pitia de Delfos, ja conegut per Homer 1<\/span><\/strong><\/span>, va ser particular perqu\u00e8 el sol\u00b7licitant rebia com a missatge un poema ambigu, si no obscur, que era recollit per un sacerdot que l\u2019interpretava. Aquests van ser els antecedents dels proxies 1<\/span><\/strong><\/span>.<\/p>\n

MULTITUD DE NOT\u00cdCIES SOBRE MODELS MASSIUS DE LLENGUATGE<\/span><\/strong>
\nDurant l\u2019\u00faltim any, el m\u00f3n s\u2019ha vist inundat de not\u00edcies contradict\u00f2ries sobre una classe d\u2019aplicacions de la IA conegudes com a models massius de llenguatge (LLM). El primer i m\u00e9s referenciat d\u2019aquesta classe es diu ChatGPT. Un dels resultats econ\u00f2mics ha estat l\u2019\u00e8xit multimilionari de l\u2019empresa OpenAI. El seu impacte social, primer, i econ\u00f2mic, despr\u00e9s, \u00e9s inq\u00fcestionable.
\nEn aquest cas, el sol\u00b7licitant interroga un LLM amb un missatge (aka prompt) i espera una recomanaci\u00f3, informaci\u00f3 o confirmaci\u00f3, que \u00e9s gaireb\u00e9 instant\u00e0nia, sense importar la part del m\u00f3n en la qual es trobi. La rapidesa i contund\u00e8ncia de les respostes semblen a priori correctes i impecables, per\u00f2 no ho s\u00f3n. Des del punt de vista social, els LLM han creat la il\u00b7lusi\u00f3 que l\u2019usuari t\u00e9 a m\u00e0 una m\u00e0quina amb una intel\u00b7lig\u00e8ncia que en aparen\u00e7a competeix o supera la dels humans.
\nLa tecnologia de qualsevol tipus sempre ha estat una arma de doble tall: pot millorar les nostres vides, per\u00f2 tamb\u00e9 pot causar problemes sense voler o utilitzar-se de forma intencional amb finalitats nocives. El cas dels LLM no sembla diferent, per\u00f2 ho \u00e9s. La ubiq\u00fcitat d\u2019Internet, la pot\u00e8ncia de c\u00e0lcul disponible i la falta de regulaci\u00f3 per a aquesta tecnologia fan que aquest sigui un cas a part. Est\u00e0 clar que l\u2019AI Act arriba tard per\u00f2 \u00e9s el primer intent de controlar la tecnologia sense aturar la investigaci\u00f3.<\/p>\n

\"\"La tecnologia de qualsevol mena sempre ha estat una arma de doble tall: pot millorar les nostres vides, per\u00f2 tamb\u00e9 pot causar problemes sense voler o fer-se servir de manera intencional amb objectius maliciosos
\n<\/span><\/strong><\/p><\/blockquote>\n

DESAVANTATGES I INEXACTITUDS DELS LLM<\/span><\/strong>
\nEntre els possibles desavantatges socials de l\u2019\u00fas dels LLM podem identificar la possibilitat de respostes esbiaixades o discriminat\u00f2ries, la generaci\u00f3 de contingut ofensiu o nociu i la perpetuaci\u00f3 de prejudicis socials a causa de biaixos en les dades originals d\u2019entrenament. Els LLM manquen de comprensi\u00f3 contextual, la qual cosa genera respostes incompletes o inexactes que els creadors anomenen al\u00b7lucinacions 3.<\/span><\/strong><\/span>
\nEn l\u2019entorn laboral, l\u2019\u00fas descurat dels LLM pot provocar violacions de la privacitat, robatori de propietat intel\u00b7lectual i fuga de dades industrials 4, <\/span><\/strong><\/span>\u00a0la qual cosa planteja riscos importants per a les empreses i institucions. A m\u00e9s, l\u2019\u00fas de LLM genera preocupacions sobre la seguretat, la desinformaci\u00f3 5<\/span><\/strong><\/span> i la creaci\u00f3 de contingut malici\u00f3s, cosa que pot tenir implicacions adverses en diversos dominis. Aquests desavantatges socials ressalten la import\u00e0ncia del desplegament responsable, la regulaci\u00f3 i les consideracions \u00e8tiques en utilitzar aquestes eines en diferents contextos.
\nUna de les m\u00e0ximes m\u00e9s conegudes de l\u2019oracle de Delfos \u00e9s \u03a7\u03c1\u03b7\u03c3\u03bc\u03bf\u03c2 \u03b8\u03b1\u03cd\u03bc\u03b1\u03b6\u03b5 \u2013admira els oracles\u2013. El millor en aquests temps de canvi constant i molt m\u00e0rqueting \u00e9s desconfiar dels oracles i dels models massius de llenguatge 6.<\/span><\/strong><\/span><\/p>\n

1 <\/span>https:\/\/www.lavanguardia.com\/historiayvida\/historia-antigua\/20191017\/47900462955\/delfos-gracia-clasica-oraculo.html
\n2 <\/span>https:\/\/iproyal.com\/blog\/what-is-a-proxy-server-and-how-does-it-work\/
\n3<\/span> https:\/\/www.wired.co.uk\/article\/how-chatgpt-works-large-language-model
\n4<\/span> https:\/\/aiapp.org
\n5 <\/span>https:\/\/www.consilium.europa.eu\/en\/press\/press-releases\/2023\/12\/09\/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai\/
\n6 <\/span>https:\/\/arxiv.org\/abs\/2311.05232<\/strong><\/span><\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

A l\u2019antiga Gr\u00e8cia calia viatjar a certs llocs sagrats per saber alguna cosa del futur o rebre alguna recomanaci\u00f3. Per exemple, els oracles de Zeus es van originar a Dodona o Ol\u00edmpia. Tamb\u00e9 van ser reconegudes Delfos i Cumas. Hi havia sibil\u00b7les, profetes o pregadeus, que s\u00f3n tres dels noms dels qui actuaven com a portadors de la veu del d\u00e9u.<\/p>\n","protected":false},"author":136,"featured_media":43699,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_mi_skip_tracking":false,"mc4wp_mailchimp_campaign":[],"jnews-multi-image_gallery":[],"jnews_single_post":{"source_name":"","source_url":"","via_name":"","via_url":"","override_template":"0","override":[{"template":"1","single_blog_custom":"","parallax":"1","fullscreen":"1","layout":"right-sidebar","sidebar":"default-sidebar","second_sidebar":"default-sidebar","sticky_sidebar":"1","share_position":"bottom","share_float_style":"share-monocrhome","show_share_counter":"1","show_view_counter":"1","show_featured":"1","show_post_meta":"1","show_post_author":"1","show_post_author_image":"1","show_post_date":"1","post_date_format":"default","post_date_format_custom":"Y\/m\/d","show_post_category":"0","show_post_reading_time":"1","post_reading_time_wpm":"300","show_zoom_button":"0","zoom_button_out_step":"2","zoom_button_in_step":"3","show_post_tag":"1","show_prev_next_post":"0","show_popup_post":"1","number_popup_post":"2","show_author_box":"1","show_post_related":"1","show_inline_post_related":"1"}],"override_image_size":"0","image_override":[{"single_post_thumbnail_size":"crop-715","single_post_gallery_size":"crop-500"}],"trending_post":"0","trending_post_position":"meta","trending_post_label":"Trending","sponsored_post":"1","sponsored_post_label":"Patrocinat per","sponsored_post_name":"Cellnex","sponsored_post_url":"https:\/\/www.cellnex.com\/","sponsored_post_logo_enable":"1","sponsored_post_logo":"44160","sponsored_post_desc":"","disable_ad":"0"},"jnews_primary_category":{"id":"10833","hide":""}},"categories":[10817,10833],"tags":[11202,11351,11352,11353,11354],"_links":{"self":[{"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/posts\/43713"}],"collection":[{"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/users\/136"}],"replies":[{"embeddable":true,"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/comments?post=43713"}],"version-history":[{"count":4,"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/posts\/43713\/revisions"}],"predecessor-version":[{"id":47457,"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/posts\/43713\/revisions\/47457"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/media\/43699"}],"wp:attachment":[{"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/media?parent=43713"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/categories?post=43713"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.monempresarial.com\/ca\/wp-json\/wp\/v2\/tags?post=43713"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}