新闻动态Position

你的位置:买球·(中国)APP官方网站 > 新闻动态 > 买球·(中国)APP官方网站模型尺寸变小、同时具备较好性能-买球·(中国)APP官方网站

买球·(中国)APP官方网站模型尺寸变小、同时具备较好性能-买球·(中国)APP官方网站

发布日期:2024-08-11 06:11    点击次数:83

买球·(中国)APP官方网站模型尺寸变小、同时具备较好性能-买球·(中国)APP官方网站

每经AI快讯,好意思国投资公司协会(ICI)的数据清晰,7月31日当周,好意思国货币市集财富6.13万亿好意思元,合并第二周下落。

逐日经济新闻

基础的构建:模型实现高效压缩是端侧AI的第一步。模型尺寸变小、同时具备较好性能,是端侧AI的前提。目前,在10B参数规模以下的模型中,7B尺寸占据主流,3B及以下小模型仍在探索,部分小模型性能正逐步接近更大参数模型,如谷歌Gemini-Nano模型在部分测试基准上接近Gemini-Pro、MetaLlama-3-8B模型表现可与Llama-2-70B匹敌。模型厂商为兼顾模型尺寸与性能,在算法优化上进行积极探索,在模型压缩技术、稀疏注意力机制、多头注意力变体等领域取得持续进展,帮助模型减少参数、降低存算需求,同时保持较好的性能,为端侧AI奠定小模型的基础。 落地的关键:模型适配终端硬件是端侧AI的第二步。小语言模型(SLM)不完全等于端侧模型,在模型实现高效压缩后,需要进一步与手机硬件进行适配,帮助小模型装进终端。从众多小模型论文中可以发现,当前主要存在内存、功耗、算力三大硬件瓶颈。其中,苹果在其论文《LLMinaflash》中指出,70亿半精度参数的语言模型,完全加载进终端需要超过14GB的DRAM空间;Meta在其MobileLLM模型论文中指出,一个约有5000焦耳满电能量的iPhone,仅支持7B模型在10tokens/秒的AI生成速率下对话不足2小时。为解决以上问题,手机芯片厂商正加速推进AI芯片研发,在先进制程、内存容量及带宽、CPU和GPU性能、以及AI服务器上发力,手机品牌商也将配备更高性能的电池、散热元器件,提升整体终端硬件能力,更好地支持AI模型。 体验的突破:模型助力人机交互是端侧AI的第三步。端侧模型通常能够支持用户完成AI初级任务,然而更丰富、更深度的交互体验需要UI模型、云端模型、以及系统级AI进行有力支撑。其中,UI模型可以提供手机UI界面理解的基础,云端模型能够帮助处理较为复杂的交互任务,系统级AI可以实现多种模型间的调用与协同。在AI时代下,模型的端侧意义不止于类似ChatGPT的聊天机器人软件,而在于赋能手机系统和应用交互的系统级AI,其带来的交互体验将成为影响用户换机的核心。从当前的海外合作阵营来看,可分为“苹果+OpenAI”和“谷歌+高通+三星”两大阵营。未来,随着端侧模型、配套硬件、AI系统的持续发展,终端市场有望呈现更多可能。 相关标的:苹果(AAPL.O)、三星电子(005930.KS)、高通(QCOM.O)、谷歌(GOOGL.O)等。 风险提示:端侧AI技术进展不及预期风险;行业竞争加剧风险;应用开发不及预期风险等。

在经历漫长的下跌周期之后买球·(中国)APP官方网站,养殖业的拐点若隐若现。随着生猪出栏量的下滑,生猪价格开始逐渐回升。有分析指出,生猪价格中期上涨趋势未改。在7月、8月肥猪供给收缩和旺季共振的推动下,板块估值有望继续修复。



TOP