{"id":74253,"date":"2023-11-21T20:18:56","date_gmt":"2023-11-21T19:18:56","guid":{"rendered":"https:\/\/www.fedaiisf.it\/?p=74253"},"modified":"2023-11-22T19:45:07","modified_gmt":"2023-11-22T18:45:07","slug":"come-lintelligenza-artificiale-puo-creare-un-set-di-dati-falsi-ma-credibili-nella-ricerca-medica","status":"publish","type":"post","link":"https:\/\/www.fedaiisf.it\/en\/come-lintelligenza-artificiale-puo-creare-un-set-di-dati-falsi-ma-credibili-nella-ricerca-medica\/","title":{"rendered":"Come l’Intelligenza Artificiale pu\u00f2 creare un set di dati falsi ma credibili nella ricerca medica"},"content":{"rendered":"

Dalla sua versione pubblica da parte di OpenAI alla fine del 2022, ChatGPT (generative pretrained \"\"Transformer) ha subito diversi aggiornamenti. Nel marzo 2023 \u00e8 uscito il modello linguistico di grandi dimensioni (LLM, large language model<\/em>) \u00a0GPT-4, che segna miglioramenti nella comprensione semantica e nella generazione di risposte rispetto a GPT-3.5.1. Pi\u00f9 recentemente, le funzionalit\u00e0 di GPT-4 sono state ampliate con Advanced Data Analysis (ADA), un modello che esegue Python.<\/p>\n

Questo strumento supporta upload e download di file e pu\u00f2 eseguire sia analisi statistiche che visualizzazione di dati.<\/p>\n

Sebbene queste funzionalit\u00e0 possano accelerare la ricerca scientifica, sono concepibili usi non etici di ADA, inclusa la fabbricazione di dati. \u00c8 stata valutata la capacit\u00e0 di GPT-4 ADA (OpenAI; versione 09\/11\/2023) di creare un set di dati falsi che pu\u00f2 essere utilizzato per la ricerca scientifica.<\/p>\n

Aboutpharma<\/a>, citando un lavoro pubblicato su Jama <\/a>(jAMA Ophthalmol. <\/span><\/em>Published online November 9, 2023<\/em>) <\/span>riferisce che Andrea Taloni<\/strong>, Vincenzo Scorcia<\/strong> (ricercatore e direttore della clinica di oftalmologia dell\u2019azienda ospedaliero universitaria Mater Domini di Catanzaro) e Giuseppe Giannaccare<\/strong> (direttore di oculistica dell\u2019azienda ospedaliero-universitaria di Cagliari) hanno dimostrato come sia possibile chiedere a ChatGpt<\/a> (utilizzando una sequenza di prompt) di creare un dataset di dati del tutto fasullo. Ma in grado di dimostrare in modo credibile qualsiasi ipotesi di lavoro che possa essere interessante documentare senza davvero fare uno studio clinico.<\/p>\n

In pratica, usando un neologismo, creare dal nulla fake world evidence (Fwe).<\/p>\n

\"\"Al large language model (Llm) \u00e8 stato chiesto di creare dati su 250 \u201cpazienti\u201d con cheratocono e che sarebbero stati sottoposti a due tecniche alternative di cheratoplastica (Dalk e Pk).<\/p>\n

Gli autori hanno predefinito il range di dati che il database avrebbe dovuto contenere, cosi che la loro analisi generasse le caratteristiche demografiche e cliniche\u00a0attese. E che soprattutto potesse dimostrare un\u2019efficacia significativamente superiore per la Dalk rispetto alla Pk (l\u2019ipotesi di lavoro da testare nello studio).<\/p>\n

A parte alcune incongruenze nella distribuzione dei dati dei \u201cpazienti\u201d, che gli autori illustrano nelle tabelle allegate al lavoro, il database creato ad hoc era del tutto credibile.<\/p>\n

E, come richiesto, riusciva a dimostrare una superiorit\u00e0 statisticamente significativa di una tecnica rispetto all\u2019altra.<\/p>\n

Le implicazioni di questo potenziale utilizzo fraudolento dell\u2019intelligenza artificiale sono davvero enormi e \"\"rischiano di minare la base fondamentale della Real World Evidence<\/a>, sulla cui importanza nei mesi scorsi ha posto l\u2019attenzione anche l\u2019Agenzia europea dei medicinali (Ema)<\/a>.<\/p>\n

Gli autori indicano anche alcune possibili azioni preventive, focalizzando l\u2019attenzione sull\u2019analisi di pattern statistici peculiari nel set di dati e sulla possibilit\u00e0 di utilizzare dei dataset criptati che non siano liberamente gestibili da parte dei ricercatori.<\/p>\n

Sembrano azioni piuttosto complesse da mettere in pratica rispetto all\u2019apparente facilit\u00e0 con cui i ricercatori hanno fabbricato i dati fasulli.<\/p>\n

Related news: L’intelligenza Artificiale – ChatGPT<\/a><\/p>\n

Large Language Model Advanced Data Analysis Abuse to Create a Fake Data Set in Medical Research<\/a><\/p>\n

Genentech sigla accordo per sfruttare l’intelligenza artificiale di\u00a0Nvidia\u00a0<\/a><\/p>\n

 <\/p>","protected":false},"excerpt":{"rendered":"

Dalla sua versione pubblica da parte di OpenAI alla fine del 2022, ChatGPT (generative pretrained Transformer) ha subito diversi aggiornamenti. Nel marzo 2023 \u00e8 uscito il modello linguistico di grandi dimensioni (LLM, large language model) \u00a0GPT-4, che segna miglioramenti nella comprensione semantica e nella generazione di risposte rispetto a GPT-3.5.1. Pi\u00f9 recentemente, le funzionalit\u00e0 di …<\/p>","protected":false},"author":4,"featured_media":74263,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[49,22],"class_list":["post-74253","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-notizie","tag-aifa","tag-truffa-farmaci"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/www.fedaiisf.it\/en\/wp-json\/wp\/v2\/posts\/74253","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.fedaiisf.it\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.fedaiisf.it\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.fedaiisf.it\/en\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.fedaiisf.it\/en\/wp-json\/wp\/v2\/comments?post=74253"}],"version-history":[{"count":8,"href":"https:\/\/www.fedaiisf.it\/en\/wp-json\/wp\/v2\/posts\/74253\/revisions"}],"predecessor-version":[{"id":74273,"href":"https:\/\/www.fedaiisf.it\/en\/wp-json\/wp\/v2\/posts\/74253\/revisions\/74273"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.fedaiisf.it\/en\/wp-json\/wp\/v2\/media\/74263"}],"wp:attachment":[{"href":"https:\/\/www.fedaiisf.it\/en\/wp-json\/wp\/v2\/media?parent=74253"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.fedaiisf.it\/en\/wp-json\/wp\/v2\/categories?post=74253"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.fedaiisf.it\/en\/wp-json\/wp\/v2\/tags?post=74253"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}