Da Orsina Fiorentini 
Tipi di reti neurali ricorrenti
Reti neurali ricorrenti bidirezionali
La memoria a lungo termine è a breve termine
Unità di ripetizione murate
Usi medici delle reti neurali ricorrenti
Reti neurali ricorrenti e imaging medico
Reti neurali ricorrenti e diagnostica
Riferimenti
Ulteriori letture
Le reti neurali ricorrenti sono una classificazione delle reti neurali artificiali utilizzate nell’intelligenza artificiale (AI), nell’elaborazione del linguaggio naturale (NLP), nell’apprendimento profondo e nell’apprendimento automatico. Elaborano dati temporanei e sequenziali (come i dati di serie temporali) o il linguaggio come parlato o testo.
Le reti funzionano creando connessioni tra i nodi. Questi nodi creano quindi quello che viene definito campione. Ciò provoca l’output da nodi specifici che influisce sugli input successivi a tali nodi. L’effetto esatto varia a seconda del comportamento esatto e della classificazione della rete neurale ricorrente.
Le informazioni viaggiano attraverso la rete da uno strato a quello successivo e ogni stato influenza quello successivo. Le informazioni viaggiano attraverso i livelli utilizzando i circuiti già presenti all’interno della rete. A causa di questi cicli, le reti neurali ricorrenti possono utilizzare la memoria per archiviare calcoli precedenti. Questa capacità è anche ciò che consente loro di utilizzare comportamenti temporali dinamici, come l’interazione con i dati delle serie temporali.
Le reti neurali ricorrenti sono modellate sulle connessioni neurali del cervello e sono quindi spesso chiamate neuroni. È una chiara rappresentazione dell’intersezione di campi come le neuroscienze e l’informatica che esiste nelle scienze cognitive. Per questo motivo, gran parte del linguaggio utilizzato per discutere delle reti neurali ricorrenti è preso in prestito da concetti neuroscientifici.
Tipi di reti neurali ricorrenti
Esistono numerose architetture diverse che le reti neurali ricorrenti possono gestire. Ognuna di queste strutture ha proprietà e strutture diverse l’una dall’altra, consentendo loro di modellare una varietà di relazioni temporali. Diversi tipi di reti includono unità ricorrenti murate, reti neurali ricorrenti bidirezionali e memoria a lungo termine.
Reti neurali ricorrenti bidirezionali
Le reti neurali ricorrenti bidirezionali sono una combinazione di due reti neurali ricorrenti che si addestrano all’unisono. Una rete si allena dall’inizio alla fine della sequenza mentre l’altra lavora nella direzione opposta.
Il metodo bidirezionale utilizzato da questo tipo di rete neurale ricorrente consente al modello di apprendere dalle informazioni attuali e passate. Una volta che la rete impara da ciò, può analizzare di conseguenza gli eventi futuri. Questa caratteristica la distingue da altri tipi di reti neurali ricorrenti. La duplice natura delle reti neurali ricorrenti bidirezionali è utile in circostanze in cui è richiesto il contesto.
La memoria a lungo termine è a breve termine
Le reti neurali ricorrenti della memoria a lungo e breve termine gestiscono dati di serie temporali lunghe. Ciò significa che possono ricordare i dati di serie temporali a lungo termine raccolti in precedenza.
Questo modello contiene tre porte diverse: la porta di ingresso, la porta di uscita e la porta dell’oblio. Queste porte agiscono come una forma di controllo sulle funzionalità di rete, come il salvataggio o la rimozione della memoria.
La porta di ingresso definisce le nuove informazioni che vengono trasmesse allo stato della cella. D’altra parte, la porta di uscita organizza le informazioni selezionate dallo stato della cella. Dopo aver preso questa decisione, sceglie il successivo stato nascosto della rete. Infine, il cancello di dimenticanza rimuove dallo stato della cella qualsiasi informazione considerata irrilevante o non importante.
Nello stato cella, la rete ha un controllo automatico scartando informazioni irrilevanti o conservando funzionalità rilevanti. Il problema del ridimensionamento evanescente riscontrato in alcune reti può essere prevenuto utilizzando reti di memoria a lungo e breve termine.
Unità di ripetizione murate
I moduli ricorrenti con gate sono un meccanismo di gate utilizzato nelle reti neurali ricorrenti. I moduli ricorsivi walled sono stati sviluppati nel 2014 come alternativa più semplice alla memoria a lungo termine.
I meccanismi di gate aggiornano gli stati nascosti della rete esistente in modo selettivo. Questo controlla il movimento delle informazioni attraverso la rete in ogni fase, determinando efficacemente quali informazioni escono ed entrano nella rete.
Le unità ripetitore con gate hanno due meccanismi di gate: il gate di aggiornamento e il gate di reset. Il cancello di aggiornamento determina quanta conoscenza precedente dovrebbe essere utilizzata in futuro. Nel frattempo, la porta del comfort determina quanta memoria passata può o deve essere dimenticata. All’interno del Portale di ripristino è presente anche il Portale della memoria corrente. L’attuale porta di memoria gestisce i dati nel sistema garantendo che la voce sia zero e introducendo la non linearità nella voce.
Reti Neurali Ricorrenti (RNN), spiegate chiaramente!!!
Usi medici delle reti neurali ricorrenti
Le reti neurali ricorrenti svolgono un ruolo nell’innovazione dell’elaborazione delle immagini mediche e degli interventi assistiti da computer. L’apprendimento profondo che utilizza le reti neurali ricorrenti ha il potenziale per essere utilizzato per la diagnosi delle malattie, mentre forme specifiche di reti neurali ricorrenti possono essere utilizzate per migliorare la qualità dell’imaging medico.
Reti neurali ricorrenti e imaging medico
Sono state condotte ricerche sull’uso di reti neurali ricorrenti della memoria a lungo termine per ridurre il rumore nell’imaging medico. Nel 2019 è stato testato un processo per valutare l’efficacia della rimozione del rumore bianco, del sale e del pepe dalle immagini della tomografia computerizzata (CT) polmonare ad alti livelli di efficienza. Ciò significa che questa tecnologia può essere applicata per migliorare la chiarezza e la qualità delle scansioni mediche.
Reti neurali ricorrenti e diagnostica
Un modello di reti neurali ricorrenti per la memoria a lungo termine è stato testato con grande successo come strumento analitico per il ricovero in unità di terapia intensiva (ICU).
Il modello è stato addestrato su criteri diagnostici per 128 disturbi e malattie e ha fornito un campione di 13 misurazioni cliniche formate da cartelle cliniche elettroniche (EHR). Se utilizzato per diagnosticare pazienti in questa situazione, ha sovraperformato le soluzioni alternative.
Riferimenti
- Hong, CL (2023) Apprendimento profondo nell’informatica biomedica. A Cheng, Y.; Wu, Z. (a cura di). I materiali di oggi, le nanotecnologie intelligenti. Elsevier. pp. 307-329.
- Schuster M e Baliwal K (1997). Reti neurali ricorrenti bidirezionali. Transazioni IEEE sull’elaborazione del segnale45(11), 2673-2681.
- Rajeev R, Samath JA e Karthikeyan NK (2019). Una rete neurale ricorrente intelligente con memoria a lungo termine (LSTM) basata sulla normalizzazione batch per ridurre il rumore delle immagini mediche. Giornale dei sistemi medici43, 1-10.
- Sharma DK e altri. (2022) Applicazioni del deep learning per la diagnosi delle malattie. In
- Gupta, D. et al. (a cura di). Deep learning per applicazioni mediche con dati univoci. Stampa accademica. pp. 31-51.
- *Lipton ZC, Kali DC, Elkan C et al. (2015). Impara la diagnostica utilizzando le reti neurali ricorrenti LSTM. arXiv Archivio edizione preliminare: 1511.03677.
- Medsker LR e Jain LC (2001). reti neurali ricorrenti. Progettazione e applicazioni5, 64-67.
- *Salih Nejad, Sankar S, Parfit J, et al. (2017). Recenti progressi nelle reti neurali ricorrenti. arXiv Archivio edizione preliminare: 1801.01078.
*Nota importante: arXiv Pubblica rapporti scientifici preliminari che non sono stati sottoposti a revisione paritaria e pertanto non devono essere considerati definitivi, guidando la pratica clinica/comportamento relativo alla salute, o trattati come informazioni concrete.