目录
茄茄子2个月前11次提交

这是可以让现有大语言模型拥有无限上下文的能力的系统(大眼),主要为长航时大型任务而设计 bbe449f4f34548cccb6b8cfeb1ccfbc8

有趣的是这个系统使得即使是对驾驭工具能力比较弱的deepseekV3,都能有很好的处理复杂任务能力(发现这个原因是当时调错API模型导致我几天都以为在用deepseek V4 flash开发项目🤫,并且发现deepseekV3正常智力在13k上下文以内,如果在这个项目里使用deepseekV3只要把工作记忆设定在13k就能让模型一直保持思路清晰)

设计初衷是之前用Claude code在解决我一个长线复杂项目时,总是因为上下文变长后它变得智力衰退、忘记内容、注意力分散症状导致无法协助我继续任务,结合之前本人有做过长记忆直播ai的基础,然后顺势做了这个系统 (直播ai跟榜一大哥对话图例) addc6f494725da289ac2921a77d4a891

系统有了长期记忆和连续思维能力后同时衍生出来学习能力(晶体智力),致使可以灌输特定记忆使它拥有特定能力、性格、认知改变,这种继承记忆能力再配合第一人称的叙事系统,配合纯净的API它会更相信这就是它的记忆,理论上它可以变成任何样子的人/物

主要实现思路: 往大模型里塞聊天记录并只压缩x 往大模型里塞它希望关注的内容✓ 这套系统之所以能做到永远不爆上下文,关键在于它的服务对象不在上下文,而是服务大模型当下关注的内容,具体的实现逻辑我会在公布源码时一起说明

目前它由这些大类组合成的架构: 工作记忆层,注意力窗口,连续思维链,记忆网络,心智锚点,反思回路,任务执行层,金字塔hash文件系统,流程图和思维导图做引导模块 image

做了这么一堆玩意儿最后合体出来是这个样子 (桌面端)

256b5d0346d24d50a7bdb1ff30f4be45 471324b651433ea89a0dbb094c4c2f1a 399e11a96c40c236b36dcfd0ccc74808 (移动端) 6e6d131ce744c75473edecfead5a363e

这应该是个适合做超大型任务的神器,大家放心拿去玩,千万别接上比deepseekv3能力更弱的模型。 项目已涵盖全部web端,通配移动端ios、安卓apk。在模型设置里适配好API就可以用啦。 出于隐私本人清空了系统的记忆,大家拿到后可以教它一些习惯,它会慢慢变顺手的。本人懒得写文档,之后补上~,源码会在后续的正式版附上,会补上更多的实用能力,大家可以关注一下后续进展喔。 更新细节会在阿B动态上发,大家感兴趣的话可以关注这儿 【该个体成分相对复杂的个人空间-哔哩哔哩】 https://b23.tv/JxjGzBd 目前公开的这个版本还不是最理想的框架,但是它却出奇的高效稳定便宜,就先分分享给大家玩玩,目前写代码做文档把它当长期员工/秘书足够了,希望这一步开始可以更加接近钢铁侠里面的贾维斯,计划之后设计成一个对话入口就够了,不需要一堆乱糟糟的话题卡片,主打一切交给助手,反正它会整理好的。

结个尾巴 回顾实现过程还真的是个挺复杂的工程(即使大部分开发已经由它自己完成),我也是想了很久才想清楚怎么介绍这个项目,每一个环节都是为它量身定做,里面的子功能也是不小的项目,都需要为了服务稳定长时间运行,后续的大部分开发还会由这个项目它自己完成,看着它能自己默默解决问题感觉还是蛮值得的。

当我准备公开时才发现,注意力这块能力与Kimi最近新出的注意力残差架构设计哲学殊途同归,人类的大脑依然是我们的教科书啊

邀请码
    Gitlink(确实开源)
  • 加入我们
  • 官网邮箱:gitlink@ccf.org.cn
  • QQ群
  • QQ群
  • 公众号
  • 公众号

版权所有:中国计算机学会技术支持:开源发展技术委员会
京ICP备13000930号-9 京公网安备 11010802047560号