V
主页
纯Memba架构大语言模型开源性能超越Transformer #小工蚁 #memba
发布人
纯Memba架构大语言模型开源性能超越Transformer #小工蚁 #memba
打开封面
下载高清视频
观看高清视频
视频下载器
DeepSpeed-FastGen比vLLM推理性能快2倍,SplitFuse策略 #小工蚁
Jamba开源模型性能超越 Mixtral8*7B 采用最先进混合架构
让Mixtral-8*7B模型运行在16GB显存GPU上 #小工蚁
仿人脑海马体HippoRAG智能问答准确度提升 20% #小工蚁
谷歌开源gemma2大语言模型用了啥新技术?
DeepSeek V2开源大模型为什么可以节省90% 以上KV Cache?
谷歌更新Transformer架构MoD 节省计算资源,提高模型性能 #小工蚁
开源InternLM2大模型测评 #小工蚁
英伟达开源Nemotran4-340B大模型,性能直逼GPT4 #小工蚁
回顾ElasticSearch向量搜索创新7.x到最新版本 #小工蚁 #向量数据库
国产首个开源MoE大模型DeepSeekMoE 16B #小工蚁
腾讯开源LlaMA Pro增强LLM性能 新方法,打造行业模型 #小工蚁
开源数字人SadTalker项目源代码解读 #小工蚁 #sadtalker
构建多模态RAG应用实践 #小工蚁
DSPy提示工程自动优化框架 #小工蚁
Llama3和Llama2模型全面对比 #小工蚁
Qwen2-Audio语音多模态大模型使用实践 #小工蚁
斯坦福开源RadixAttention算法 和SGLang语言,性能再翻5倍
企业大语言模型用什么GPU H100/A100还是4090? #小工蚁
多模态Embedding开源模型 Visualized BGE #小工蚁
通义千问千亿模型比720亿模型更省算力 #小工蚁
MiniCPM3-4B开源 4B参数挑战7B性能!真的吗? #小工蚁
Prefix Caching原理和对大模型推理加速影响 #小工蚁
为什么说AI芯片的最大问题不是算力,而是内存带宽? #小工蚁 #英伟达
商汤开源Piccolo2大模型有啥亮点?#小工蚁
HippoRAG中仿人脑海马体PPR算法实现 #小工蚁
开源最强大语言模型Mixtral 推理和训练如何使用?#小工蚁
LLM解码参数Temperature Top K & Top P有啥作用?#小工蚁
使用LangChain实现Tool Calling #小工蚁
谷歌开源视觉大模型PaliGemma
制造业在大模型应用如何实现降本增效 #小工蚁
大语言模型快速JSON解码算法 Jump Forward Decoding #小工蚁
微信小程序十亿级用户画像底层如何实现?#小工蚁 #clickhouse
BAdam大模型全参训练方法更省显存,速度更快,性能更优
mBART开源多语言翻译模型支持全球最常用50种语言 #小工蚁
微调开源模型具备Function Call讲解和演示 #小工蚁
Text2SQL Llama 7B模型微调DuckDB-NSQL-7B #小工蚁
Ollama在Mac上运行大语言模型 #小工蚁
ElasticSearch和OpenSearch向量检索性能差异?#小工蚁
开源AI生成声音和音乐大模型AudioLDM2 #小工蚁