驅動增強終端側生成式AI體驗的技術：LoRA
作者：Pat Lawlor 高通技術公司技術市場總監(jiān)
增強情境化和定制化一直是用戶體驗提升的推動力。盡管生成式AI已展示出變革性的潛力，但仍有進一步提升的豐富空間。
為了滿足對定制化和情境化相關體驗日益增長的需求，本文將探討為何LoRA即將產生重大影響。
類似于裁縫提供量身定制的西裝，LoRA適配器支持定制化生成式AI體驗。
通過LoRA適配器實現(xiàn)定制化
基礎模型和預訓練生成式AI模型擁有廣泛的知識，可以很好地回復多種提示。但是它們有時可能會出現(xiàn)失誤，因為這些模型沒有專門針對特定知識的更多數據進行定制或精調。
“樣樣都懂一點，但樣樣都不精通?！边@話很好地描述了這個問題：生成式AI模型能夠展示很多滿足需要的技能，但可能缺乏技術專長。
例如，如果需要一個大語言基礎模型充當健身和健康教練，它可能難以針對鍛煉或膳食建議提供準確的反饋。通過使用正確訓練姿勢、準確的菜肴卡路里含量等示例對模型進行訓練精調，可以顯著提高其準確性。訓練原始基礎模型需要大量數據、計算、預算和技術專長，而對許多AI公司、開發(fā)者和從業(yè)者來說，針對數據量小得多的特定領域進行精調，仍然太具挑戰(zhàn)性。
為了應對該挑戰(zhàn)，研究人員開發(fā)出了LoRA技術，能夠大幅減少AI模型的可訓練參數量（例如參數量減少98%），以降低訓練成本，同時面向精調任務提高模型準確性。模型的變化部分被封裝在LoRA適配器中，添加到模型原始值以創(chuàng)建精調模型。
除了降低模型訓練難度之外，LoRA還能支持終端側生成式AI用例實現(xiàn)更高效率、可擴展性和定制化。LoRA廣泛適用于生成式和傳統(tǒng)AI模型。
例如，可通過精調LLM等生成式AI模型，創(chuàng)建定制個人助手、改進語言翻譯等。開發(fā)者和更廣泛的AI社區(qū)正在生成LoRA適配器以打造定制體驗，消費者可以選擇符合個人偏好的適配器。
通過LoRA，生成式AI能夠實現(xiàn)規(guī)模化擴展，基于消費者和企業(yè)偏好提供更加定制化、個性化和準確的體驗。
終端側現(xiàn)可支持定制的Stable Diffusion
最近，高通還演示了在Android智能手機上運行的支持LoRA適配器的Stable Diffusion。LoRA適配器賦能Stable Diffusion基于個人或藝術偏好創(chuàng)建高質量自定義圖像。用戶可選擇某個LoRA適配器并設置適配強度，生成想要的圖像。
例如，我們演示了一個“面條”適配器，它能夠創(chuàng)建與Stable Diffusion類似的圖像，但生成的圖片能夠結合意大利面等面食作為繪畫風格。
除面向不同藝術風格賦能精調的語言視覺模型(LVM)外，LoRA技術也廣泛適用于任何AI模型。由于模型規(guī)模以及DRAM和閃存限制，這一點對終端側生成式AI尤為重要——適配器體積較小，通常不到基礎模型規(guī)模的2%，而且可以快速切換。
在終端側運行LoRA適配器可提供增強的隱私、安全性、可靠性、個性化和成本優(yōu)勢。
我們正處于生成式AI時代的開端，未來將出現(xiàn)更多創(chuàng)新。
推動終端側生成式AI持續(xù)創(chuàng)新
LoRA和多模態(tài)AI是終端側生成式AI未來趨勢的絕 佳技術范例。它們能夠解決現(xiàn)有的挑戰(zhàn)，為消費者和企業(yè)規(guī)?；峁┣榫郴⒍ㄖ苹蛡€性化體驗。
我們正處于激動人心的時代，我期待看到開發(fā)者和AI生態(tài)系統(tǒng)的其他參與者將如何利用這項技術，提供增強的用戶體驗。
關注我們
