演讲主题:大规模应用中的测量技术:如何同时实现高性能与高效能的数据采集与分析
Brian Martin探讨了各种指标库在现实环境中的性能开销,并分享了那些能够降低开发成本、实现“无惧性能影响”的监控与分析策略。他结合自己在IOP Systems的工作经验,介绍了原子操作原语、基于CPU的分布式数据处理技术、无需锁机制的直方图分析工具,以及eBPF技术的集成方法,这些方法能够帮助软件架构师和工程团队在保证系统性能的前提下实现全面的性能监控。 作者:Brian Martin

Brian Martin探讨了各种指标库在现实环境中的性能开销,并分享了那些能够降低开发成本、实现“无惧性能影响”的监控与分析策略。他结合自己在IOP Systems的工作经验,介绍了原子操作原语、基于CPU的分布式数据处理技术、无需锁机制的直方图分析工具,以及eBPF技术的集成方法,这些方法能够帮助软件架构师和工程团队在保证系统性能的前提下实现全面的性能监控。
作者:Brian Martin相关文章
谷歌的继任者致力于将同态加密推理功能变为只需一键即可使用的功能。
谷歌推出了HEIR(同态加密中间表示技术)这一开源编译器及开发工具链,其目的在于让加密计算更容易被实际应用。具体而言,HEIR能够将那些专为常规的未加密数据而设计的预训练AI模型进行重新编译,从而使这些模型能够直接处理加密数据。 作者:塞尔吉奥·德·西蒙内
阅读全文
演讲主题:利用对手模拟技术来实现生成式人工智能的协同发展
Kennedy Torkura介绍了在AWS环境中使用GenAI技术来保护大语言模型和知识库,使其免受数据污染、LLMjacking等安全威胁的方法。他阐述了工程领导者与架构师如何将传统的云安全措施与MITRE ATLAS框架相结合,从而主动发现漏洞、建立防护机制,并确保生产环境中的AI应用能够获得有效保护。 作者:Kennedy Torkura
阅读全文
演讲主题:通过在一台服务器上部署100万个沙盒环境来解决人工智能基础设施的扩展问题
Felipe Huici解释了Unikraft是如何实现毫秒级快速启动、可保持状态的状态缩减技术,以及如何为AI工作负载提供极高的部署密度。他讨论了隔离机制、Linux内核优化措施以及快照技术,展示了如何在大规模应用环境中保持低于10毫秒的性能表现,同时还能确保系统能够与Kubernetes环境无缝集成,并具备硬件级别的安全性。 作者:Felipe Huici
阅读全文
迷你手册:下一代架构实践指南:人工智能时代的洞察与模式
这本电子杂志探讨了在这样一个快速发展的工程领域中,架构师该如何以清晰的思路来引领发展方向,并将行业经验转化为可供团队实际应用的实践方法。这些案例共同揭示了一个核心主题:技术领导者们的角色正在从单纯构建系统,转变为引导技术的行为模式与发展方向,同时帮助工程师们和各类组织充分发挥他们的潜力。 InfoQ出品
阅读全文