← 返回蜂巢洞察

演讲主题：从毫秒到微秒：OSS Valkey架构模式在现代人工智能技术中的应用

栏目 技术实践
分类 大数据
标签 系统 架构 延迟 成本 增加

Dumanshu Goyal探讨了如何优化数据层，以便让那些对延迟要求极高的应用（比如用于存储人工智能特征的数据结构）能够更高效地运行。他以NASA的航天飞机项目为例，解释了代理架构会带来哪些隐藏的CPU使用成本、导致延迟增加以及增加系统风险的问题；同时，他也展示了直接访问型Valkey架构是如何实现微秒级延迟、提升系统的可靠性，并大幅降低基础设施维护成本的。 作者：Dumanshu Goyal

Dumanshu Goyal探讨了如何优化数据层，以便让那些对延迟要求极高的应用（比如用于存储人工智能特征的数据结构）能够更高效地运行。他以NASA的航天飞机项目为例，解释了代理架构会带来哪些隐藏的CPU使用成本、导致延迟增加以及增加系统风险的问题；同时，他也展示了直接访问型Valkey架构是如何实现微秒级延迟、提升系统的可靠性，并大幅降低基础设施维护成本的。

作者：Dumanshu Goyal

相关文章

技术实践

AWS云成本监控、警报机制及优化方案：开发人员使用指南

在工程团队中，每个月都会出现这样一种常见的情景：有人会转发一张AWS账单的截图，显示出的费用数额比上个月要高。大家都表示认同，认为这笔费用确实应该更低一些，但实际上并不会采取任何具体的行动来改变这一状况，这样的循环就这样不断重复着。 本指南的目的就是打破这种循环，通过一种更为有效的方法来替代原有的处理方式——采用系统化、针对具体服务的分析方法，从而清楚地了解自己的支出情况、支出的原因，在问题真正形成账单之前就发现它们，并且在不需要猜测的情况下降低成本。 本书的结构设计便于读者随时查阅。每一部分都可以独立使用：如果你当前面临的是与RDS相关的问题，可以直接阅读相关章节；而如果你打算从零开始建立F

阅读全文
技术实践

在Linux系统中，系统调用究竟是如何工作的

这是一个简单的C程序。它调用了三次`clock_gettime()`函数，然后向标准输出输出了5个字节。 #include #include #include int main(void) { struct timespec ts; for (int i = 0; i 这两者看起来都属于系统调用。它们都是向内核请求程序本身无法获取的信息：当前时间，以及文件描述符的访问权限。 gcc -O0 -o mystery mystery.c strace ./mystery 2>&1 | grep -c clock_gettime 答案是`0`。 write() 函数被立即执行了，而那三次`clock_

阅读全文
技术实践

人工智能接待员的工作原理：人工智能电话客服系统背后的技术架构

从表面上看，人工智能接待员似乎很简单：来电者说话，系统做出响应，然后对话持续进行，直到来电者得到答案或与相关人员取得联系。 但实际上，在这一对话的背后，存在着一系列电话基础设施、语音识别技术、语言模型、应用逻辑、应用程序接口、数据库以及呼叫路由机制。 有趣的地方并不在于人工智能模型本身，而在于这些组件是如何协同工作，将音频流转化为有用的商业行动的。 那些希望拥有这类功能的企业有两种选择： 它们可以购买现成的产品。目前市场上已经有专门的人工智能接待系统，比如Nextiva公司的 XBert ，以及Goodcall、Dialzara等公司提供的相关工具。 或者，它们也可以自行开发这样的系统，而这篇

阅读全文
技术实践

如何构建能够识别自身知识盲区的AI系统：一份实用指南

大型语言模型从根本上改变了我们构建企业内部应用的方式。它们使开发人员能够创建出能够分析复杂企业数据、回答内部查询以及自动化重复性工作流程的智能软件。 然而，将基于大型语言模型的应用从本地原型阶段部署到生产环境时，往往会暴露出一个关键的可靠性问题： 过度自信 。 标准的语言模型被优化为生成在统计学上最有可能出现的下一个输出结果，而不是用来评估它们自身的准确性。当遇到模糊的输入指令、不完整的检索信息或超出模型适用范围的边缘情况时，这些模型会毫无顾忌地生成看似合理的虚假答案，甚至编造事实，而不会向用户提示任何不确定性。 在那些对业务运行至关重要的企业环境中，一个盲目猜测的人工智能应用无疑会带来严重的

阅读全文