Affining di grandi modelli linguistici utilizzando l'Entity Hallucination Index per la sintesi del testo
9 gennaio 2026
Proponiamo un approccio di affining basato sull'apprendimento per rinforzo per grandi modelli linguistici che utilizza l'Enti Hallucination Index (EHI) come segnale di ricompensa per ridurre le allucinazioni a livello di entità nella sintesi testuali. Esperimenti sulle trascrizioni degli incontri mostrano che questo metodo migliora la fedeltà e l'accuratezza delle entità.
Questo studio utilizza l'Entity Hallucination Index come segnale di ricompensa per ridurre la generazione errata di entità nei testi riassunti dall'IA. Le metriche attuali sono due approssimative, questo protocollo utilizza ricompense di entità a grana fine per migliorare la fattualità senza etichette umane. Per cominciare, utilizza due corpora principali, tra cui un set di dati di trascrizione del dialogo con trascrizioni di riunioni a più turni e il benchmark di riassunta XSum News.
Pulisci ogni set di dati, appiattisci i dati e suddividili in set all'80% di addestramento, 10% di validazione e 10% di test. Eseguire la tokenizzazione e l'estrazione delle entità utilizzando un NER modello D slim/BERT basato su trasformatore per garantire una messa a terra robusta. Genera riassunti iniziali in modalità zero shot usando la ricerca a fascio con larghezza di quattro per stimare la prevalenza di allucinazioni di base.
Calcola l'indice di allucinazione dell'entità come una metrica a livello di entità priva di riferimento che categorizza le entità in cinque fattori per quantificare la fedeltà. Premia l'estrazione e le allucinazioni positive e penalizza le allucinazioni negative, le entità troppo focalizzate e la perdita di concentrazione. Definisci la funzione ricompensa come proporzionale alla fedeltà dell'entità e massimizza la ricompensa EHI attesa tra i riassunti generati.
Applicare un meccanismo rinforzato di aggiornamento dello stile per ottimizzare i parametri del modello al fine di massimizzare la fedeltà delle entità. Usa l'adattamento a basso rango per consentire una messa a punto fine efficiente dai parametri e aggiorna solo gli adattatori LoRA mantenendo congelati i pesi base del modello. Poi applica aggiornamenti del gradiente di politica per incoraggiare risultati di ricompensa più elevati e rigenera i riepiloghi ogni 500 aggiornamenti per aggiornare le stime delle ricompense.
Infine, genera riassunti finali utilizzando i modelli fine-tuned e confrontali con i risultati di base. Valuta i modelli per l'informatività usando Rouge uno, Rouge due e Rouge L, fluidità e coerenza fattuale usando dati CC e CAG. La fine tuning EHI ha ridotto le allucinazioni e migliorato la fattualità tra modelli e set di dati con spostamenti verso destra nell'EHI, e le distribuzioni dei CC dei fatti che confermano una maggiore fedeltà e coerenza fattuale, mentre i punteggi CAGS sono rimasti in gran parte invariati.
I tipi di allucinazioni dannose come negative, sovrafocalizzazione e perdita di concentrazione sono stati ridotti in Mistral dopo la fine tutura, mentre il fattore estrazione è quasi raddoppiato. L'analisi di correlazione ha mostrato che EHI e CAGS avevano una correlazione debole in Mistral e DistilBART, ma Flan-T5 ha mostrato una correlazione positiva più forte. I ricercatori possono misurare la fedeltà a livello di entità e i tassi di allucinazione in riepiloghi utilizzando il segnale automatico di ricompensa EHI.
La sfida più critica è l'accuratezza del NER, poiché gli errori di estrazione possono propagarsi in calcoli errati della ricompensa durante l'addestramento. Studi futuri possono integrare risoluzioni per coriferimento e ricompense informative per bilanciare meglio la fedeltà con la copertura riassuntiva.
Visualizza la trascrizione completa e accedi a migliaia di video scientifici
Panoramica
Questo articolo presenta un nuovo framework basato su ricompense per l'addestramento mirato di modelli linguistici di grandi dimensioni (LLMs), finalizzato a ridurre le allucinazioni a livello di entità nella generazione di riassunti astrattivi. Sfruttando l'Indice di Allucinazione delle Entità (EHI) come metrica guida, l'approccio migliora l'accuratezza fattuale dei riassunti generati senza compromettere l'informatività o la generalizzabilità.
Componenti Chiave dello Studio
Area della Scienza
- Elaborazione del linguaggio naturale
- Apprendimento automatico
- Riassunto automatico di testi
Sfondo
- Gli LLM hanno notevolmente migliorato la qualità della sintesi astrattiva.
- L'allucinazione a livello di entità, in cui compaiono entità errate o inventate nei riassunti, rimane una sfida importante.
- I modelli esistenti spesso faticano a bilanciare informatività e accuratezza fattuale.
- Le metriche in grado di penalizzare direttamente le entità allucinate sono poco esplorate durante l'addestramento dei modelli.
Scopo dello studio
- Sviluppare un framework di addestramento specifico per ridurre le allucinazioni entitative nei modelli di sintesi testuale.
- Introdurre e utilizzare l'Indice di Allucinazione Entitativa (EHI) come segnale di ricompensa.
- Dimostrare un miglioramento della fattualità e della robustezza nelle sintesi generate da modelli linguistici di grandi dimensioni (LLM).
Metodi Utilizzati
- Riassunti iniziali generati utilizzando modelli pre-addestrati (ad esempio, Flan-T5, DistilBART, Mistral) su dataset strutturati di trascrizioni come XSUM.
- Estrazione di entità nominate sia dai riassunti generati che dai riassunti di riferimento ottimali.
- Calcolo dell'EHI valutando la precisione delle entità e penalizzando le entità inventate.
- Ottimizzazione tramite apprendimento per rinforzo utilizzando un meccanismo di aggiornamento di tipo REINFORCE con l'EHI come segnale di ricompensa.
Risultati principali
- I modelli affinati hanno mostrato tassi inferiori di allucinazione di entità.
- L'informatività dei riassunti è stata mantenuta nonostante la riduzione delle allucinazioni.
- I modelli guidati da EHI hanno dimostrato una migliore capacità di generalizzazione nei compiti di riassunto fuori dal dominio.
- Nelle valutazioni sperimentali sono state osservate una robustezza e un'accuratezza fattuale migliorate.
Conclusioni
- Il framework di ricompensa basato sull'EHI riduce efficacemente le allucinazioni a livello di entità nella sintesi generata dai modelli linguistici di grandi dimensioni (LLM).
- Factualità e informatività possono essere ottimizzate congiuntamente utilizzando questo approccio.
- Il metodo offre una direzione pratica per migliorare l'affidabilità dei sistemi di sintesi automatica.
Domande frequenti
Rilevanza Industriale del Progetto
Le allucinazioni a livello di entità nella sintesi generata da modelli linguistici di grandi dimensioni (LLM) rappresentano un rischio significativo per l'integrità dei dati e per i processi decisionali nel settore biofarmaceutico R&D. Il framework di ottimizzazione fine guidato dall'Indice di Allucinazione Entitativa (EHI) affronta direttamente questa sfida, consentendo un'estrazione più affidabile di informazioni fattuali da fonti testuali scientifiche e operative. Una maggiore fattualità nei processi di sintesi automatica supporta una maggiore affidabilità predittiva e riduce i rischi successivi nei flussi di lavoro basati sulla conoscenza.
Applicazioni Strategiche nella Biofarmaceutica R&D
Scoperta Precoce e Validazione del Target
- Migliora l'accuratezza dell'analisi della letteratura e dei dati per l'identificazione di target, riducendo al minimo le entità inventate.
- Supporta la riduzione del rischio meccanicistica assicurando che le entità estratte riflettano reali relazioni biologiche.
- Permette una generazione di ipotesi più affidabile a partire da risultati di sommari automatici del testo.
Screening e sviluppo di saggi
- Permette l'estrazione standardizzata di bersagli e condizioni del saggio da diverse fonti documentali.
- Riduce il rischio di propagazione di informazioni errate sulle entità nei flussi di lavoro di screening.
- Supporta la riproducibilità mantenendo la fedeltà delle entità negli estratti automatici.
Ricerca Translazionale e Preclinica
- Migliora il collegamento tra i risultati preclinici e le entità rilevanti per la malattia, riducendo le allucinazioni.
- Migliora la continuità nel tracciamento delle entità dalla fase di scoperta fino alla validazione preclinica.
- Supporta un avanzamento proporzionato ai rischi fornendo prove più affidabili a livello di entità.
Integrazione di Pipeline e Flusso di Lavoro
Il framework di affinamento guidato da EHI si integra nel livello informatico delle pipeline di scoperta, screening e ricerca traslazionale, supportando l'estrazione e il riassunto robusti delle entità.
- Biologia della Scoperta: Permette la verifica delle ipotesi e la chiarificazione dei percorsi biologici assicurando l'accuratezza delle entità nei riassunti estratti.
- Screening: Fornisce riassunti riproducibili e fedeli alle entità per la documentazione dei saggi e la valutazione dei composti.
- Analisi: Fornisce punteggi quantitativi di EHI per confrontare e valutare le prestazioni dei riassunti in diverse condizioni.
- Ricerca Translazionale: Mantiene la fedeltà delle entità nel mappare biomarcatori e malattie durante il passaggio dalla fase di scoperta a quella preclinica.
- Riutilizzo Aziendale: Stabilisce una capacità di riassunto scalabile e basata su ricompense per svariate fonti testuali nel settore biofarmaceutico.
Impatto Operativo ed Aziendale
- Valore scientifico: Aumenta la fiducia predittiva e riduce l'ambiguità meccanicistica nei risultati derivati dal testo.
- Valore operativo: Standardizza l'estrazione delle entità e la generazione di riepiloghi tra team e progetti.
- Valore strategico: Favorisce decisioni più accurate di tipo go/no-go migliorando l'affidabilità dell'estrazione automatizzata delle conoscenze.
- Impatto sul portafoglio: Permette una priorizzazione aggiustata per il rischio riducendo la diffusione di dati errati sulle entità.
Considerazioni sull'implementazione
- Richiede competenze specifiche nell'elaborazione del linguaggio naturale e nell'apprendimento per rinforzo per l'ottimizzazione del modello.
- Necessita di accesso a set di dati strutturati di trascrizioni e a sommari di riferimento standardizzati per il calcolo dell'EHI.
- Richiede un accordo condiviso tra i team sulle definizioni delle entità e sugli standard di estrazione.
- Potrebbe richiedere l'adattamento delle soglie dell'EHI a seconda dei diversi domini biomedici o dei tipi di documento.
- Dipende dalla qualità dei modelli pre-addestrati iniziali e dei dati di riferimento per prestazioni ottimali.
