-
如何让LLM能够给出真正想要的答案
在上一篇文章LLM在现实中的赋能，提到了很多LLM的衍生工程，agent、RAG，目的都是为了让LLM能够给出接近用户问题的答案的回答。对于RAG是什么以及怎么做到的我已经写了一篇文章来介绍的，这里再给大家具体介绍一下agent是如何给LLM加上决策的翅膀。在本文中，我主要会介绍一下agent的运作原理以及一些agent在实施过程中的需要注意的关键问题，最后再基于当前主流的框架 langch... -
LLM在现实中的赋能
LLM的发展历程大语言模型（Large Language Model, LLM）是一种基于深度学习的、参数规模巨大的语言模型，通过在海量文本上进行自监督预训练，获得强大的语言理解与生成能力。它在自然语言处理（NLP）领域实现了任务形式的“大一统”——即用一个通用模型架构和生成式范式，统一处理翻译、摘要、问答、推理等多种任务，被视为迈向通用人工智能（AGI）的重要技术路径之一。那么他是如何发展... -
现实中的数据接入
作为干了多年应用开发，只是在项目上看看数据项目的我，现在已经开始转向了数据的方向，目前来看许多企业已经完成了信息化的转型，但是应用系统中产生的数据并没有被好好的利用起来，那么在我的认知里，数据化的转型应该是未来的一个长期方向。其中包括了数据的采集，清理和使用，这里我说的很简单，因为在公司里面很多的数据都是被集中化管理，几乎不存在我拿不到数据的情况。这是站在一个公司层面来理解和观察数据，与社会... -
General understanding about RAG
什么是RAG全称 retrieval augment generation，根据用户输入的数据生成初始化context，给机器人初始化的时候，规定对应的知识，这样能够帮助llm在回答的时候，生成response的时候有一个范围。当用户给定的输入比较模糊的时候，能够自动帮助生成更加准确的输入。这是没有加入retrieval模型时，用户和llm的交互，加入之后就演变成了下图但是普通的retrie... -
dify on wechat based on gewechat框架理解
背景在大语言模型（LLM）发展的背景下，传统的聊天机器人已无法满足人们的日常需求，催生了大量基于 LLM 的智能 Bot。早期，许多基于多端微信登录的开源框架应运而生，如 itchat、wechaty 以及 gewechat 等。其中，最早的方案多采用 WeChat 的 Web 端协议，可能是因为实现相对简单。然而，出于安全性或产品发展策略的考虑，微信官方对这些第三方机器人进行了不同程度的限... -
remove_watermark
如何去掉图片&视频中的水印最近我家里的同志有一些图片处理的需求，他们最近在捣腾图片，但是好多网上的图片或者视频都有水印，他们想把这些水印去掉。当然在也有很多的途径可以做这个是，有的工具被集成在小程序里，但是有很多的广告，让人用起来很烦。除此之外当然还有一些专业的工具，比如说Adobe的PS，但是对于年龄大的人或者是说那些个对技术不太敏感的人有一些难度。所以我最近就研究了一下如何去掉水... -
redis optimization based on redisson
背景周一大早上过来，发现在客户在jira上新建了一个bug卡。点进去一看原来是一个performance的issue，配图是NR中监控到redis的cpu直接被拉满的metric，这个问题应该困扰了团队很久。之前出现问题的时候，在staging中使用jmeter压测过很多次，都没有复现像生产上的问题。由于出现了几次，客户这次可能还是想找到根因吧。接着我早上接下了这张卡，开始了redis性能瓶... -
Nginx在docker中的网络以及如何在OSI的应用层和传输层的load balance
Nginx with DockerHow to Run it in docker docker cmd run docker image docker run --name <container name> -p 80:80 --hostname <hostname> -d nginx 其中hostname是方便docker内部的容器之间的通信，如果不设置会有默认值 ... -
如何获取request中的header的信息，并处理一些逻辑
实现方式 参考文章 SpringBoot 中使用 Filter 的正确姿势，在这篇文章中解释很多种在spring-boot中实现filter的方式。我们在项目中使用的是可以去掉url区分的影响，所以我们使用@Component注解方式来实现DI，同时还可以使用@Configuration和@Bean的方式来实现DI。 实现步骤： 所有自定义的filter都是需要实现javax.servl... -
命令行中的chatgpt
chatgpt 命令行工具 commandChatgithub 知乎 简书 最近花了一些时间写了一个小项目，直接在命令行中调用openai platform提供的api。有人可能会问了，为啥chatgpt提供了网页版你不用，非的自己弄一个麻不麻烦？大家就接着往下看吧~ 我觉得把这个是看个人需求的，如果有的人只是想玩一玩的话，web版的确实够用了...
a free blog website for sharing daily works and life
