樽石数字技术研究所合同公司(TDRI)在EntreprenAIs中确立了一项独有技术,可在仅使用CPU运行的超轻量级模型的配合下执行智能体技能。
此前,执行智能体技能通常需要具备一定规模的模型。通过此次独有技术,现已可在仅使用CPU运行的超轻量级模型的配合下驱动智能体技能,大幅拓展了可用的运行环境选择。
借助这项技术,包括Daily Briefing和End of Day在内的众多EntreprenAIs定时业务技能,现已可在超轻量级本地LLM上运行。此外,还实现了在聊天室中常驻助手,由本地LLM代为处理日常事务的功能。这标志着向更广泛应用场景迈出了重要一步。
EntreprenAIs一贯致力于以有限资源自主运行智能体。本次举措将这一方针落到实处,是拓展产品边界的重要里程碑。
关于技术详情及未来进展,将适时另行发布。如有导入咨询或问题,请通过联系表单与我们联系。