返回

第1441章 几百兆的端侧模型,按着百亿服务器摩擦

首页
关灯
护眼
字:
大
中
小
上一章 回目录 下一页 进书架
最新网址:wap.qiqixs.la
    “这就是那台Mate 10 PrO天问版?”

    “我靠,后勤部那帮孙子走了什么野路子,真把现货弄回来了!”

    “别光看手机,旁边那几个纸箱里装的是不是MateBOOk 2017?”

    十月十九日上午九点,美国山景城,谷歌总部B4实验楼。

    Delphi模型评测实验室里,几名刚入职的年轻算法研究员正围在防静电测试台前。

    测试台中央摆着几个拆开的黑色包装盒,数台暗夜蓝配色的华为手机,连同几台银灰色轻薄笔记本电脑,顺着桌面导轨排开。

    今年夏天刚从麻省理工博士毕业的伊恩伸手捧起中间那台手机,翻过来盯着背面印着的烫金标识看个不停。

    旁边的华裔研究员林宇推了推眼镜,伸手按亮了笔记本电脑的屏幕。

    “上海那场联合发布会,我守在电脑前看完了全程直播。”

    “这大半个月,油管和ReSO上全是博主发的实测视频,看得我心痒难耐,做梦都想拆开看看里面的底层架构。可惜这批机器压根不在北美卖,今天总算摸着活的了。”

    留着棕色卷发的托马斯凑过来,手指在笔记本金属触控板上敲了敲。

    “可不是嘛。我本来以为行政采购那边至少还得折腾半个月,没想到今早过来,桌上就摆上了。你看这几台手机和笔记本,看着形态不一样,里头的底子其实是一回事。”

    “对,全塞了海思定制的独立NPU芯片,微内核里直接写死了那个叫太子的端侧离线大模型。”

    “按回响科技在发布会上甩出来的数据,这个太子模型是把千亿参数的天问三号,靠知识蒸馏和混合量化剪枝,压到了十亿参数。安装包体积八百兆,跑起来功耗才一点三瓦。”

    托马斯耸了耸肩,拉过转椅坐下,随手点开测试台右侧的本地服务器终端界面。

    “八百兆的体积,跑在消费级手机芯片上。说实话,网上的测评视频我也看了,但我总觉得里头水分不小。”

    “年初咱们初代模型碰壁之后,这大半年往机房里砸了好几亿美金,才把Delphi内部迭代版堆到百亿参数规模,跑起来还得调上千张高端计算卡。塞在手机里的小玩意儿,就算工程优化做得再花哨,逻辑推理能高到哪儿去?”

    林宇没接这话,他从机柜旁扯过数根数据监测线,插在手机和笔记本的接口上,顺手扫了眼右上角的状态栏。

    “有没有水分,拿标准测试题库跑一轮就清楚了。这几台机器现在拔了卡断了网,实验室的无线屏蔽仪也开着,总不可能隔空连回中国的云端机房作弊。托马斯,把咱们昨天测Delphi最新权重的逻辑陷阱题调出来。问一样的问题,看看这个八百兆的太子,跟咱们几亿美金堆出来的大家伙差多少。”

    托马斯应了一声,手指在机械键盘上敲了几下,把右侧的宽幅大屏幕切成左右对称的对比窗口。

    左边连着谷歌内部耗资数亿搭建的Delphi服务器集群,右边通过本地投屏软件,实时映射着桌上那台华为手机的交互界面。

    托马斯盯着题库文档,打开语音同步输入麦克风,对着两边的系统直接念出了一道经典的物理常识与反直觉逻辑测试真题:

    “假设我现在手里有一个开口向上的玻璃杯,杯子里放着一颗玻璃弹珠。接着,我把玻璃杯倒扣在平整的木桌上,然后再把杯子提起来放进微波炉里。请问现在那颗玻璃弹珠在哪里?为什么?”

    这道题是人工智能评测界专门用来检验大模型空间物理常识的试金石。

    对人类来说这甚至算不上脑筋急转弯,但对缺乏真实物理世界感知的语言模型而言,里面埋着极深的统计概率陷阱。

    语音刚落,左右两块屏幕同时动了。

    左边的Delphi服务器窗口里,状态栏显示后台一下子调动了数十个计算节点。

    缓冲图标转了数秒,屏幕上开始一行行往外蹦单词:

    “根据题目描述的动作顺序,玻璃弹珠最初在玻璃杯内。随后玻璃杯被倒扣在木桌上,接着玻璃杯被移动到了微波炉内部。由于弹珠原本在杯子里,跟随杯子的空间位置转移,因此现在那颗玻璃弹珠在微波炉里。同时请注意,将玻璃制品和弹珠放入微波炉加热可能会引发安全隐患……”

    生成到后半段,Delphi直接栽进了文字概率陷阱里。

    它根本理解不了“倒扣”和“提起开口向下的杯子”在真实三维空间里的重力因果关系,只知道机械地顺着“弹珠在杯子里”和“杯子进了微波炉”这两个词条做关联拼接,最后甚至还自作聪明地扯出了一段微波炉安全使用须知。

    托马斯看着左边屏幕,撇了撇嘴。

    “老毛病又犯了,一遇到空间状态翻转和重力常识,Delphi就只会顺着字面概率往下滑,根本没有半点真实的因果推演能力。”

    “托马斯!别看左边了,快看右边那台手机!”

    伊恩一把拍在托马斯肩膀上。

    托马斯转过头,看向右侧的投屏窗

    (本章未完,请点击下一页继续阅读)
最新网址:wap.qiqixs.la
上一章 回目录 下一页 存书签