韩国科学技术院发布超个性化AI芯片“灵魂伴侣”
韩国科学技术院（KAIST）研发团队成功开发出一款高度个性化人工智能芯片，能够学习并响应用户的说话习惯、个人偏好及情绪变化。该芯片结构可在智能手机等设备内部完成学习与推理全过程，无需经过云端虚拟服务器，在极大提升响应速度的同时，显著降低了个人信息泄露风险。这项技术被评价为大型语言模型从“通用人工智能”迈向“专属AI秘书”演进过程中不可或缺的核心突破。
KAIST于17日宣布，由人工智能半导体研究生院的柳会俊教授团队研发的个性化大型语言模型加速器“灵魂伴侣”已正式问世。研究团队在芯片内部直接集成了检索增强生成技术——通过调取历史对话记录生成定制化回应，以及低秩自适应技术——根据用户反馈持续优化模型。该架构不仅能结合用户记忆与经历进行应答，还能实时学习对话过程中获得的反馈。
现有ChatGPT等大型语言模型虽在通用知识领域表现卓越，却难以长期记忆特定用户的言语模式、偏好及对话情境。尤其在移动设备端，由于算力与内存限制，往往不得不依赖外部云端服务。这种情况下，私人对话内容将传输至服务器，且响应速度受网络状况影响可能出现延迟。
“灵魂伴侣”芯片通过端侧部署方案突破了这些局限。所有计算与学习流程均在设备本地完成，无需向外部服务器传输个人信息，响应速度也获得飞跃式提升。据研发团队数据，该芯片首次响应时间仅需216.4毫秒，较现有端侧系统降低首响延迟达82.5%，用户自适应学习能耗节省76.2%。其功耗控制在9.8至180.5毫瓦区间，专为智能手机及可穿戴设备量身打造的超低功耗设计。
为实现这一效能突破，芯片采用了“混合权重令牌处理”架构，为重点词汇分配更多计算资源；同时引入“相似度序列处理”机制，减少对近似语句的冗余运算；更创新搭载高效张量运算核心，摒弃传统均匀处理模式，智能筛选关键信息进行快速计算。
研究团队指出，此项技术未来不仅可应用于智能手机，更能拓展至智能手表、车载人工智能、陪伴机器人等个人AI设备领域。这不仅是超越问答功能的底层突破，更是开启“AI伴侣”时代的钥匙——让人工智能能够长期记忆用户特征，并随着使用者偏好共同成长。
该项研究成果已入选上月在美国旧金山举办的国际固态电路会议亮点论文。研发团队计划通过校办企业“OnNewroAI”在2027年前实现产品商业化落地。
柳会俊教授表示：“我们通过模拟人类建立友谊的过程，为人工智能发展成为用户真正伴侣奠定了技术基础。未来的AI将成为守护隐私的‘最佳挚友’，随时随地提供最懂你的陪伴。”
本文由极观网原创发布，未经许可，不得转载！
本文链接：http://huioj.com/bizz/13890.html
