← 返回蜂巢洞察

演讲主题:从数千种选择到唯一答案:利用大语言模型构建高效的筛选系统

Jendrik Jördening分享了将大语言模型集成到生产流程中的实际工程策略。他探讨了如何克服不确定性问题、如何对数据结构进行限制、如何将语义文本提取与确定性代码分离,以及如何利用鉴别模型来验证各种设计决策。此外,他还介绍了如何采用MVC架构来组织大语言模型的开发工作,从而确保数据库的完整性、系统的可观测性以及其可靠性。 作者:Jendrik Jördening

Jendrik Jördening分享了将大语言模型集成到生产流程中的实际工程策略。他探讨了如何克服不确定性问题、如何对数据结构进行限制、如何将语义文本提取与确定性代码分离,以及如何利用鉴别模型来验证各种设计决策。此外,他还介绍了如何采用MVC架构来组织大语言模型的开发工作,从而确保数据库的完整性、系统的可观测性以及其可靠性。

作者:Jendrik Jördening

相关文章

技术实践

演讲主题:运用人工智能技术激发移动设备用户的创造力与探索欲

Bhavuk Jain探讨了如何将基础人工智能技术转化为可扩展的移动产品。他详细介绍了开发“AI壁纸”功能以及“Circle to Search”工具过程中所遇到的工程挑战,说明了如何建立可靠的运行时防护机制、进行模型微调以及实现与操作系统的无缝集成。对于工程领域的领导者来说,他指出了在确保用户体验的同时,如何平衡模型响应延迟与基础设施成本问题,从而推出安全、可靠的人工智能产品。 作者:Bhavuk Jain

阅读全文
技术实践

如何构建能够识别自身知识盲区的AI系统:一份实用指南

大型语言模型从根本上改变了我们构建企业内部应用的方式。它们使开发人员能够创建出能够分析复杂企业数据、回答内部查询以及自动化重复性工作流程的智能软件。 然而,将基于大型语言模型的应用从本地原型阶段部署到生产环境时,往往会暴露出一个关键的可靠性问题: 过度自信 。 标准的语言模型被优化为生成在统计学上最有可能出现的下一个输出结果,而不是用来评估它们自身的准确性。当遇到模糊的输入指令、不完整的检索信息或超出模型适用范围的边缘情况时,这些模型会毫无顾忌地生成看似合理的虚假答案,甚至编造事实,而不会向用户提示任何不确定性。 在那些对业务运行至关重要的企业环境中,一个盲目猜测的人工智能应用无疑会带来严重的

阅读全文
技术实践

Swiggy利用350多项功能以及多任务神经网络模型来预测客户的终身价值。

Swiggy开发了一套自主研发的预测生命周期价值模型,该模型采用了超过350个预订单相关特征,并结合了多任务MLP算法来分析Food业务及Instamart业务的数据。通过将订单数量作为辅助训练指标,模型的参数数量减少了63%,同时其预测性能也得到了提升。目前,Swiggy正在将这种预测生命周期价值的方法与Google的Target ROAS竞价系统相结合,以优化客户获取策略。 作者:Leela Kumili

阅读全文