Utilizziamo i cookie per migliorare la nostra pagina web. Leggi la nostra Informativa sui cookie .

Che cos'è un database vettoriale?

Se consideriamo l'AI come il cervello, allora un database vettoriale (Vector DB) è la sua memoria a lungo termine.

I database tradizionali si basano sulle ricerche per parole chiave, limitandosi a verificare se il testo è identico; i database vettoriali riescono a comprendere il significato che si cela dietro le parole, non cercando le parole, ma il significato. Questa è esattamente la tecnologia alla base delle moderne basi di conoscenza per l'AI, della RAG (Retrieval-Augmented Generation) e dell'AI generativa aziendale.

Le aziende possono convertire dati non strutturati come PDF, documenti Word, fogli di calcolo Excel ed e-mail in vettori, creando una base di conoscenza che l'AI può comprendere. Quando un utente pone una domanda, il sistema converte prima la query in un vettore e successivamente cerca nel database il contenuto con il significato semantico più affine, anziché limitarsi a confrontare le parole chiave. Ciò significa che è in grado di trovare la risposta corretta anche se viene utilizzata una terminologia diversa.

Ad esempio, se un documento menziona strategia di backup o protezione dei dati e un utente chiede Come posso evitare la perdita di dati?, il database vettoriale sarà comunque in grado di stabilire che i due concetti sono semanticamente correlati e fornire la risposta più adeguata.

Pertanto, i database vettoriali consentono all'AI di andare oltre la semplice ricerca di documenti; le permettono di comprendere realmente il patrimonio informativo aziendale, sviluppando assistenti AI e basi di conoscenza private più precisi e intelligenti per le imprese.

data_protection

Cos'è esattamente la RAG?

La RAG (Retrieval-Augmented Generation) è una tecnologia di intelligenza artificiale che consente ai modelli linguistici di grandi dimensioni (LLM) di cercare conoscenze esterne prima di rispondere a una domanda, per poi generare una risposta basata su ciò che l'IA ha trovato. Il suo scopo principale è permettere all'IA di utilizzare non solo le conoscenze apprese durante la fase di addestramento, ma anche i dati aziendali interni, più recenti o maggiormente specializzati, per rispondere alle domande. Ciò riduce il rischio di allucinazioni che generano informazioni errate e aumenta l'accuratezza e la tracciabilità delle risposte.

Immagina che a un dipendente venga richiesta una specifica di prodotto. Se rispondesse affidandosi esclusivamente alla memoria, probabilmente commetterebbe degli errori; tuttavia, se consultasse il manuale del prodotto più recente e formulasse la risposta basandosi su di esso, la risposta risulterebbe molto più affidabile. Il funzionamento della RAG è estremamente simile a questo processo.

data_protection

I dispositivi NAS ASUSTOR non sono solo semplici archivi di dati, ma un vero e proprio hub di conoscenza AI aziendale

Nell'era dell'AI generativa, il ruolo dei NAS si è evoluto: dalla tradizionale archiviazione dei file a hub di conoscenza per l'AI aziendale.

Quando le aziende adottano modelli linguistici di grandi dimensioni (LLM), la RAG e i database vettoriali, i dati non vengono più semplicemente archiviati, ma costantemente analizzati, indicizzati, recuperati e applicati, fungendo da solida base per l'AI nel rispondere alle domande e supportare i processi decisionali.

I NAS costituiscono l'infrastruttura fondamentale di questo intero processo di conoscenza dell'AI. Documenti, PDF, fogli di calcolo, e-mail, immagini e svariati altri tipi di dati possono essere archiviati a livello centrale su un NAS. Vengono quindi elaborati tramite processi di AI locali per segmentare il contenuto in frammenti semantici, generare dati di embedding e scriverli all'interno di un database vettoriale. Quando un utente pone una domanda, l'AI esegue prima una ricerca semantica all'interno della base di conoscenza aziendale, per poi interfacciarsi con un modello linguistico di grandi dimensioni al fine di generare risposte più precise e modellate sul contesto aziendale, superando i limiti della semplice ricerca per parole chiave.

L'intero flusso di lavoro per l'elaborazione della conoscenza tramite AI può essere completato internamente, senza necessità di caricare dati sensibili su cloud pubblici. Questo garantisce il perfetto equilibrio tra sicurezza dei dati e privacy, soddisfacendo al contempo i requisiti aziendali in materia di sovranità dei dati, conformità normativa e gestione delle autorizzazioni interne.

Pertanto, nelle architetture AI di nuova generazione, il NAS non è più semplicemente un dispositivo di archiviazione, ma il nucleo vitale che interconnette l'AI, i database vettoriali e il patrimonio informativo aziendale, affermandosi come la piattaforma fondamentale per le imprese che desiderano sviluppare soluzioni di Private AI.

data_protection

Sviluppa una base di conoscenza AI privata per creare il tuo LLM

Senza il supporto dei database vettoriali e della tecnologia RAG, persino gli LLM più potenti non riescono a comprendere il patrimonio informativo proprietario di un'azienda. Possono rispondere a domande di carattere generale, ma ignorano la documentazione di prodotto, le procedure operative standard, le specifiche tecniche o i dati dei clienti.

I dispositivi NAS ASUSTOR possono fungere da piattaforma centrale per le basi di conoscenza AI aziendali. L'implementazione di un'architettura RAG e di un database vettoriale consente all'AI di accedere istantaneamente ai documenti interni, creando una base di conoscenza AI privata esclusiva per l'azienda.

I dipendenti possono ricercare rapidamente le informazioni utilizzando il linguaggio naturale, ad esempio:
Qual è lo storico delle transazioni di questo cliente negli ultimi tre anni?
Dove si trovano i documenti tecnici del prodotto?
Qual è l'ultima versione delle SOP interne?

L'AI non è più un semplice strumento di chat, ma un gateway intelligente per la gestione del patrimonio informativo aziendale e il recupero delle informazioni, migliorando significativamente l'efficienza delle ricerche e la produttività sul lavoro.

Aspetto ancor più importante, tutti i documenti, le conoscenze e i dati risiedono all'interno del NAS aziendale, eliminando la necessità di caricarli su cloud pubblici. Ciò previene la fuga di dati riservati, garantisce la conformità normativa e assicura che tali informazioni non diventino una fonte di dati per l'addestramento o la distillazione di modelli AI esterni, realizzando a tutti gli effetti la sovranità dei dati AI aziendali.

data_protection

Soluzione per la sovranità dei dati dell'AI aziendale

Quando le aziende adottano l'AI, ciò che deve essere réellement protetto non sono solo i dati, ma la sovranità dei dati dell'AI.

Settori come quello finanziario, sanitario, governativo, legale e manifatturiero affrontano tutti delle sfide riguardanti la privacy dei dati, la conformità normativa e la protezione delle informazioni riservate. L'invio diretto dei dati aziendali ai servizi AI su cloud pubblico può aumentare il rischio di fughe di dati e potenzialmente violare le policy di sicurezza interne e i requisiti normativi.

Pertanto, sempre più aziende scelgono i NAS come nucleo della propria infrastruttura AI, creando una piattaforma di conoscenza AI privata controllata interamente dall'azienda stessa.

I dispositivi NAS non solo archiviano documenti, report, dati dei clienti, documentazione tecnica e patrimonio informativo aziendale, ma garantiscono anche la sicurezza e la tracciabilità dei dati attraverso la protezione RAID, gli snapshot, il controllo dei permessi, la crittografia e meccanismi di backup completi.

Se combinati con i database vettoriali, la tecnologia RAG e gli LLM, i dispositivi NAS ASUSTOR diventano l'unica fonte di verità per l'AI aziendale, garantendo che le risposte fornite dall'AI si basino sulle conoscenze interne piuttosto che su dati esterni incontrollabili.

data_protection

È possibile installare direttamente un database vettoriale su un NAS?

Sì. I NAS ASUSTOR supportano l'implementazione rapida dei più diffusi database vettoriali, come Chroma, pgvector e Weaviate, tramite Docker, consentendo alle aziende di sviluppare una base di conoscenza AI completa e un'architettura RAG all'interno del proprio ambiente locale.

Anche chi non è uno sviluppatore professionista può completare facilmente l'implementazione e la gestione attraverso l'interfaccia grafica e gli strumenti applicativi di ASUSTOR.

I NAS ASUSTOR supportano inoltre applicazioni AI come Ollama, AnythingLLM e n8n, permettendo l'integrazione di LLM on-premise o in cloud tramite un'interfaccia utente al fine di sviluppare rapidamente sistemi AI privati per la risposta alle domande e il recupero delle informazioni.

Qualora i modelli locali non soddisfino requisiti di inferenza più elevati, è possibile connettersi in modo flessibile a servizi AI in cloud, tra cui: OpenAI, Anthropic, Google Gemini, NVIDIA NIM, Mistral, Perplexity e altre piattaforme LLM di primo piano come OpenRouter, garantendo il perfetto equilibrio tra prestazioni, costi e accuratezza.

data_protection

Analisi dell'impatto della comprensione semantica sull'inferenza RAG

Requisiti VRAM della GPU Dimensione del modello Comprensione semantica e qualità delle risposte Scenari
8GB 3B Minuscolo Risponde solo a domande di base, perde facilmente informazioni o ne fraintende il significato Test personali / Demo
12GB 7B Piccolo Può gestire RAG semplici, ma le risposte sono instabili e spesso trascurano i dettagli Piccolo assistente AI
16GB 13B Medio La comprensione semantica è migliorata, ma i problemi complessi potrebbero ancora deviare dal punto principale Base di conoscenza dipartimentale
24GB 13B to 34B Grande Raggiunge un livello pratico, ma i contesti lunghi potrebbero risultare ancora incompleti RAG per piccole e medie imprese
48GB 34B to 70B Molto grande La comprensione semantica è notevolmente migliorata, in grado di gestire ragionamenti in più fasi, ma non completamente stabile Sistema AI di livello enterprise
80GB+ >70B Estremamente grande Si avvicina all'esperienza di un assistente AI di fascia alta, ma dipende ancora dalla qualità dei dati RAG Piattaforma AI / Servizio multiutente

Perché il NAS ASUSTOR è adatto come infrastruttura per database vettoriali?

1 Protezione dei dati di livello enterprise: il RAID aiuta a proteggere dalla perdita di dati dovuta al guasto dei dischi

Il cuore di una base di conoscenza AI non è l'elaborazione, ma l'affidabilità dei dati. I NAS ASUSTOR utilizzano la tecnologia RAID, assicurando il recupero completo dei dati anche in caso di guasto del disco rigido, garantendo la stabilità a lungo termine dei vettori di embedding e prevenendo le interruzioni della base di conoscenza AI, un fondamento cruciale per la sovranità dell'AI aziendale.

2 Snapshot: capacità di ripristino temporale

Le snapshot preservano lo stato completo dei dati in diversi punti nel tempo. Quando gli aggiornamenti della RAG o del database vettoriale causano risposte anomale da parte dell'AI, è possibile ripristinare rapidamente una versione stabile, garantendo risultati di inferenza dell'AI controllabili e tracciabili.

3 Backup multilivello: garantire la longevità e la resilienza dei dati per l'AI

I dispositivi NAS ASUSTOR supportano numerose tipologie di backup locali, offsite e in cloud per creare una completa architettura di protezione multilivello che riduce al minimo il rischio di perdita dei dati. Anche in caso di gravi guasti, la base di conoscenza AI può essere ripristinata rapidamente, mantenendo ininterrotto il patrimonio informativo aziendale.

4 I/O efficiente: supporto per le prestazioni delle query dei database vettoriali

I dispositivi NAS ASUSTOR offrono supporto per cache SSD, NVMe e reti 2.5GbE / 10GbE per garantire letture degli indici vettoriali a bassa latenza e ad alto throughput. Grazie al supporto per cache SSD e archiviazione NVMe, oltre a un ambiente di rete a 2.5GbE o 10GbE, il NAS è in grado di fornire capacità di accesso I/O stabili e a bassa latenza, rendendo più fluide le query e il caricamento degli indici vettoriali.

5 NAS: La sorgente dati per la RAG

I dati aziendali provengono da vari formati come PDF, documenti Word, fogli di calcolo Excel, e-mail, ecc. Il NAS funge da punto di partenza del processo RAG, responsabile dell'intero flusso di dati da documento → semantica → vettore → AI, riducendo i trasferimenti e abbassando il rischio di fughe di dati.

6 Accesso multipiattaforma: consentire il libero flusso della conoscenza AI

Supporta l'accesso da Windows, macOS, Linux e dispositivi mobili. Garantisce che il sistema AI possa aggiornare costantemente le conoscenze da molteplici fonti, preservando la natura in tempo reale e la completezza del database vettoriale.

7 Hub di conoscenza AI: connettere archiviazione e inferenza

I dispositivi NAS ASUSTOR non sono semplici dispositivi di archiviazione; rappresentano un nodo centrale per la conoscenza dell'AI. Quando un utente pone una domanda tramite un sistema AI, il sistema recupera le informazioni semantiche pertinenti dal database vettoriale del NAS e le trasmette a un motore di inferenza locale (tra cui, a titolo esemplificativo, vLLM o Ollama) implementato su una risorsa di calcolo AI locale dotata di accelerazione hardware, oppure a una risorsa di calcolo AI in cloud tramite API, al fine di generare risposte e formare un'architettura RAG aziendale completa.

Nota: i modelli NAS ASUSTOR non dispongono di una GPU dedicata. Per un'esperienza di AI privata completa ed efficiente, si consiglia l'abbinamento con un host di calcolo esterno ad alte prestazioni (come un server GPU) per gestire l'inferenza dei modelli, oppure l'integrazione flessibile con servizi API AI in cloud.

Domande frequenti

Q:Utilizzo sicuro di un SSD M.2 come storage in un NAS primario

Se gli SSD M.2 sono installati come volume principale, ASUSTOR consiglia di utilizzare almeno due SSD M.2 per ridurre al minimo i rischi di errore di avvio in caso di guasto di uno dei due SSD. Se viene utilizzato un SSD come Volume 1, il NAS potrebbe non avviarsi durante ... Scoprine di più >

Q:Quanta capacità è sufficiente per il NAS ASUSTOR?

Ecco alcuni elementi da considerare quando si sceglie la capacità del NAS ASUSTOR: Requisiti di archiviazione: La prima cosa da considerare sono i requisiti di archiviazione, ovvero la quantità di dati da memorizzare. Se avete bisogno di archiviare solo file di ... Scoprine di più >

Scoprine di più >