Hook

Their other posts in the index, biggest breakout first.
C'è questo nuovo dove per risparmiare i soldi quando si utilizza Fable 5, invece di inviargli il prompt sotto forma di testo, viene convertito in un'immagine qua sopra che vedi super densa, passata come immagine. La repository in questione che è diventata super virale, X. Pipe e ti incentiva proprio a tagliare il costo dei facendo il rendering forma di immagine, facendoti risparmiare anche nella bolletta diciamo di token dal 59 al 70%. Questa cosa qui funziona, ma a che costo? Nell'esempio fanno vedere 25.000 token di testo che vengono convertiti in 2700 image token. Anche vedere come la gente funziona eh, facendo di risparmiare tanto token tramite questa trasformazione. L'idea deriva proprio da DeepSeek-OCR con il suo context optical compression, dove propongono l'approccio di trasformare il testo in un'immagine che poi viene vision token per comprimere le informazioni. E funziona modello multimodale ci sta lo spazio per le immagini convertite in token e poi spazio per il viene convertito in text token. Lo spazio per le immagini di molto meno rispetto a quello del testo, quindi viene effettuata una compressione maggiore sulle immagini rispetto al testo. Ora in un approccio del genere non credo che sia la via giusta, perché, sì funziona questo approccio ma perdi tantissima informazione. Modello da un'immagine riesce a prendere tutta l'informazione, tutto il testo lo sta praticamente trascrivendo, cioè la fa è 1c. R. Lasciando il fatto che pure gli OC. R. sui caratteri, se tu riesci a trascrivere il tutto alla fine stai consumando gli stessi text token. Ok, ma dicono che ti fai risparmiare token significa che in hai avuto una compressione dell'informazione e quindi avrà anche una perdita importante su quell'informazioni. Infatti nella repository lo dicono parte onesta it is lossy, cioè perdi informazioni a trasformare il contesto, il testo, il documento in immagine. Immaginati di avere un documento grande, lo vuoi caricare su Cloud Code usare usando Fable 5, non usare questa repository ritrasformandolo in immagine perché poi che il modello si perde delle cose importanti su quel documento. Occhio. A fare questo video per chiarire quello che sta accadendo. Si può risparmiare in token, ma si perde anche tante informazioni, quindi ne vale secondo me questo quello giusto per risparmiare token, cioè trasformando tutte le immagini no perdi troppe informazioni. Esistono invece tanti che ti fanno risparmiare token senza perdere tanta qualità. Fammi sapere con un commento qua sotto cosa ne pensi, seguimi per rimanere aggiornato sul mondo AI. Ciao.