▲点击图片领取excel模板
公众号后台回复:“可视化”,获取EXCEL模板
公众号后台回复:“社群”,进入知识分享社群
热文推荐:
摘要:杨立昆教授在哈佛大学数学系的演讲,概括下来基本是杨立昆一贯的观点,目前自回归LLM重重缺陷(最终输出是概率模型),支持联合嵌入架构,放弃概率模型,支持基于能量的模型;一句话需要重新规划新的世界模型。杨立昆教授给出他目前的工作和新的世界架构JEPA及能源模型原理EBM。全文95页,报告大部分内容需要应用数学专业的朋友深入研究了(有需要的留言单独发送,公众号关闭了上传附件功能)。
目 录
1目标驱动的人工智能
2机器学习很糟糕(与人类和动物相比)
3我们需要人类级别人工智能来智能助手
4未来的 AI 助手需要人类水平AI
5面向 AMI(高级机器智能) DESIDERATA
6自我监督学习
7大模型现状:自回归大型语言模型 (AR-LLMS))
8LLM 的局限性:没有规划
9自回归生成模型很糟糕
10自动回归 LLM 糟透了
11目前的人工智能技术(仍然)与人类水平相去甚远
12我们错过了一些真正重要的东西
13数据带宽和容量:LLM 与孩子
14我们错过了什么?
15目标驱动的人工智能
16目标驱动的人工智能:多步骤/循环世界模型
17目标驱动的人工智能:非确定性世界模型
18目标驱动的 AI:分层规划
19提出联合嵌入世界模型:自我监督训练
20世界架构模型:JEPA
21基于能量的模型EBM:隐式函数
22放弃生成模型
23要解决的问题
中午自己烧饭,吃得很饱。 下午和汪去滨江,去打探一下周边地形。滨江是个很适合工作的地方,四周都是写字楼。幻想着自己以后来这上班的情景。天气阴沉沉,行走在望不见顶的高楼间有些压抑。找到了凯瑞金座,上了11楼,比想象中的要low很多。不过也没关系。之后坐地铁去了杭州,一比较,这里更富有生活气息。晚饭吃了高祖生煎,吃完去书店。刷了下朋友圈,无非又是这样,在这个秀场,人们习惯了把最光鲜的一面展示给观众。而自己还在没生活奔波,哎。 2018年1月21日 1 早上就来滨江,熟悉一下路线。大概要一小时。去钟书阁坐了会,今天很空。中午去楼下吃了卤派三叔,第一次吃,互联网思维不错。随后又去书店。下午一点多,去见林总。到了楼下发消息不回,直接上去,找黄晨开门,进了林总办公室。林总高谈阔论了一大通,自己静静的当一个观众,大致知道了公司的业务逻辑。有跟我谈了工资和股权,热血沸腾的下楼了。坐地铁去凤起路,借了一个充电宝。晚饭去永和大王吃,很快又饿了。 2018年1月22日 2 早上七点多出发,时间比较宽裕,沿途还去吃了早饭。 到了公司,金晓东也到了。 和林总谈了会,大致确定工作内容。 工作环境很喜欢,一面落地窗,窗外是江景,平静的江水如一面镜子,隔岸的高楼倒影在水面。这简直是自己梦寐以求的工作环境。 中午去吃了骨头饭。 下午研究了医美行业的公众号。 六点肚子实在饿了,去吃晚饭,鸡米饭吃了两碗,又去买了煎饼,终于吃饱了 2018年1月24日 4 中午买了草莓,看大神玩王者。梦寐以求的事,竟然实现了。李白韩信,来去如风,进退自如。 下午去营业厅买手机号,移动太坑,去了电信。一男一女,一唱一和,搞了很久,终于注册好了。 今天周星驰来龙湖天街,6点多过去凑热闹,人满为患,感受一下就离开了。 2018年1月26日 6 昨晚被许的照片惊艳到了,一直在脑海挥之不去。朋友圈里的女生一个个为妻为母,舍不得却无可奈何。而自己却依然是孤单的一个人,想想真是难受。中午家里吃,好久没家里吃完了。 跟一个网友玩游戏,诸葛好厉害。 下午洗澡,今天一天都没出门。 2018年1月29日 2 早上开了小会,几个公众号准备开始前期试运营。 五福集齐了,这已经成为了过年的一种仪式,也知道分不了多少钱,但重要的是获得一种参与感。 中午去吃了淮南牛肉汤。 下午办公室就剩我一个了。 2018年1月30日 3 早上坐公交,第一次坐,时间差不多。 今天林总来的很早。 集五福 迷蒙团队发的一篇文章刷屏了,迷蒙这妖怪又来兴风作浪了。含迷率 中午吃兰州拉面。 晚上吃面。 晚上去参加年会,做金晓东的车,地址在西湖边。 进去人已经坐满了,比想象中的多,很多陌生的面孔。 都是领导,有些拘谨。喝酒敬酒,互吹互黑,感觉有些油腻。 自己是唯一的九零后。 喝完合影留念。 2018年2月4日 今天年三十。这一年倒没觉得过得很快,去年过年的记忆已经很模糊,好像过了很久了。 今天姐姐来了,好久没见到她了,每次见面都是焕然一新的感觉,不过彼此好像没有陌生的感觉,三秋不见如隔一日。还加了她的微信,看了下他的朋友圈,像是一个五彩绚烂的万花筒,一个人过的精彩不精彩,看朋友圈就知道,和他一对比,自己的朋友圈就太过寒碜了。对她的态度,自己一直是发自内心的希望她过的好,很喜欢他这样类型的女生,落落大方,有才华,有情怀,有自己的想法,虽然有些小缺点,但正是她可爱的地方。祝福她有美好的未来。其实我还是很喜欢跟人聊天的,只是在生活中有共同语言的太少,于是给人一个沉默寡言的印象。 晚上开车去朱盼家。在旺角城附近,地理位置很不错,走进家里让人眼前一亮,整体风格简约轻奢,自己曾经也想装修一个别具一格的家,现在想想,并没有什么必要。就像当初装修大学寝室,一开始心血来潮,想给自己一个美好的生活环境,后来日子一久,也就流于庸常了。 给大神送了猪八戒。他的表情太逗了。 买了凯的皮肤。 晚上群发祝福,很多平时想说却没机会聊的人,可以借着送祝福的名义搭讪了。 第一次给许评论朋友圈,下了很大的决心,还拉黑了好几人,哎,自己做人怎么这么累,庸人自扰啊。随后又给很多人点了赞,难得自己这么低姿态。雨露均沾,一个屌丝的日常,愿自己新年好运。 许竟然回我了,这样一点小小的突破,自己却已经是极限了,与她的关系就到此为止了。想想真是无奈。对不起我尽力了。 2018年2月5日 早上去大舅家,今年养了两条狗,看到曾经那条威风凛凛的大狗如今却有些垂垂老矣,岁月不饶狗啊。狗这一辈子虽然有吃有喝,却是被禁锢的一生,终身被束缚在这方寸之地,只能用几声犬吠证明自己的存在感。 晚上去远远家,远远去旅游了。一直把过年当成一个不可缺席的仪式,以后也要开始逃离了。 2018年2月6日 早上七点不到就起来了,真是奇迹。烧了饺子吃。 去外婆家,吃完又去田间走了几圈,又是一年芳草绿,每年都会在这打卡,看着头顶高架上的列车飞驰而过,像极了短暂的人生。拍了些照片发朋友圈。晚上自己家里吃。 2018年2月7日 过年的节奏就是逛吃逛吃。中午去经由吃。饭菜挺不错。吃完看NBA,好久没认真看过比赛了。好多人都不认识。 晚上去远远家吃饭,远远出国旅游去了。 2018年2月8日 中饭家里吃。 晚上去宏利家吃饭。 牛肉被我承包了,吃了两碗饭。 宏利的女朋友来了,没仔细看,和想象中的不太一样。 吃完玩游戏。 2019年2月9日 中饭家里吃 下午看了会雪国列车 晚上家里吃,奶奶那边的亲戚来吃饭。过年这几天只要是家里吃都吃的很满足。 和谢玩王者,输多胜少。他这个人心态真差,连游戏都输不起,我真鄙视你。 2018年2月10日 最后一天。 年就像一头飞驰而过的野兽,还没看清模样就不知所踪了。 今天好冷,看了天气都是下雨天。 下午回萧山。车上挺空。想到了雪国列车中的景象。 晚饭吃的很饱,把带来的最后一点年味吃完了,明天又是新的开始。 2019年2月12日 中午走了很久,最后吃了嵊州小吃。又去买了两个手机号。 结果发不了短信。 晚上去吃了兰州拉面,吃完再去电信,弄了很久,才知道是因为没钱。 2019年2月13日 这几天阴雨绵绵,加上天冷,浑身难受。 中午去吃了天街的面馆,吃完去拿手机卡。 买的手机终于到了。 把林总的银行卡绑定了 设计了中医公众号的图 晚上去吃了兰州拉面,第一次点饭,竟然全部吃完了。 2019年2月14日 今天早上的公交是史上最挤的一次,看着一个个前赴后继上车的人,自己站在角落倒也有一番滋味。 早饭吃蛋挞。 中午看黄成玩狄仁杰,赏心悦目。很喜欢他那种举重若轻的态度,不管是游戏里还是生活中。 中饭吃鸡肉饭,涨价了。 公众号最近流量很大,要把一部分精力放到中医领域去。 晚饭去吃牛肉汤。 今天情人节,走在路上处处都是甜蜜暴击。远远看着龙湖天街灯火辉煌,想来今天这里已经充满甜蜜。 朋友圈好几个秀恩爱的,真是佩服,这把年纪了还有如此的虚荣心呵表现欲。活到老,装到老。还有真要秀能不能秀的有内涵有水平一点,什么鲜花口红红包,真是俗不可耐。 自己真的越来越老了,主要是心态上的衰老。 回家玩几把王者,2输2胜,一天没玩,回家玩游戏是一天最大的期待。 2019年2月15日 汪在找工作,挺同情他的。想想自己挺幸运的,塞翁失马焉知非福,因祸得福。 今天有座位了,听鲍鹏山的水浒。 早上吃刚买的蛋糕。中午吃兰州拉面,附近的饭店都被吃遍了。 公众号越来越多,管理有点吃力。6个号每天都要更新,发布20篇文章,加几十个好友,拉一百多人入群,每天都是紧锣密鼓。 两个新号还在注册中,开了一点号和大风号,主要起辅助作用。 晚上又是最后一个走,很享受一个人的感觉。晚上吃黄焖鸡。 2019年2月16日 做了一个好梦。梦回校园时代。拥有了一个情投意合的同桌,完全符合我心中另一半的模样,可以一张眼什么都没有了。 中午去吃东海面馆,味道还不错。 晚上玩游戏,要控制游戏时间。 2019年2月17日 早上起来搞公众号,看了会全明星,中饭家里吃。 看了会诗词大会的片段。 晚上家里吃。 跟汪洋谈工作的事。 2019年2月18日 1 早上坐公交竟然晕车,在建设一路下车,一路走到地铁站。地铁上慢慢恢复了。到公司已经快十点了。一路上听武松的讲解,热血沸腾。 中午去吃了烧鸡饭,下午思考公众号新名字,翻了很多佛学的古诗词,从里面提取。 晚上去了一家新店 回家剪头发等了2个小时,完了几把王者,回到家12点了。 2019年2月19日 2 早上有发掘了一家新店,早餐不错。中饭也去这家吃快餐。 下午开了个会,很欣慰林总能把我们当兄弟,我会一直站在他一边。 今天元宵节了,不过是一个普通的节日,甚至是普通的一天。 晚上爸给我发了一位女生照片,说是相亲对象。倒还蛮期待的。我总是太独立自主,其实有时候也学会去向别人寻求帮助。 2019年2月20日 3 早上还是去快餐店。 下午和黄和葛玩王者,终于上星耀了。 2019年2月22日 5 中午买了杂粮饼,又去吃了馄饨。路上碰到黄成。 公司全是男的,发现自己好久没有和女生聊天了。 能来这公司真是因祸得福,希望幸运能多眷顾我一些,运气这东西对于那些已经到达人生巅峰的来说是可有可无,但对于普通人却往往起到至关重要的作用。 最近在写贫富差距的文章,人和人的差距有很多,经济、相貌、智商……很多都是难以逾越的。渐渐的就习惯了这种差距,习惯了仰望习惯了羡慕,也就失去了改变的欲望。 晚上吃了叉烧饭,公交上一路闭眼冥思。 2019年2月23日 6 早上先去了新房,不太喜欢这位置,周围设施都不太完善,我的理想是能住在杭州,准确的说是幻想。不知道以后会是谁和我在这里共度余生。 早饭吃了片儿川。 去了戴村,买中药。地方找了好久才找到。 中午奶奶家吃饭,多了个小女孩。每个女生都曾经天真烂漫过,长大了就失去了很多可爱的地方。 汪洋去当保安了,早就料到。 晚上吃鸡,味道不错,可惜没酱油。 看到许有更新了朋友圈,只是他发的都好难接话。感觉很难和他产生交集。 2019年2月25日 1 早上打包早饭回来吃。 中午买了杂粮饼和馄饨。 晚上吃了面,汤太多。 2019年2月26日 2 今天地铁人真多,杭州都这样,难以想象北京是怎样情景,放眼望去都是年轻人,都和自己一样日复一日的过着两点一线的生活,如果站在上帝视角,我们都是多么渺小的生命啊,如天地浮游,如沙洲微尘,在狭窄的车厢里,在拥挤的人流中,在大厦的格子间,朝来暮去,碌碌一生。 这个社会好像什么都有,可是什么都要去争去抢,考试、求职、购物……甚至连做个公交都要抢。如果你不愿意争,那就只好老老实实等待,等来的是一个结果也可能是错过。 今天很迟去吃早饭,把自己的生物钟往后延迟一下,能避开不必要的等待。 中午和葛蓓乐吃饭。还是挺享受一人食的。一个人自由自在随心所欲,自己真的变了好多,记得以前也很喜欢凑热闹,害怕孤独,更害怕被人知道自己孤独,总喜欢成群结队,即使不 2019年2月27日 3 中午又是煎饼和拌面。 晚上和汪逛了会,听他的苦命经历。 回家看了会倚天屠龙记,今天开始又要开始一段江湖了。 2019年3月1日5 今天竟然已经三月份了,春天要来了。一个美好的季节,春光无限好,只是无人共赏,独自逍遥。 中午吃煎饼和拌面,这种搭配真是物美价廉, 晚上煎饼和馄饨。要变成煎饼侠了。 关于学历收入的文章终于写完了,效果不错。 2019年3月2日6 早上看了倚天屠龙,可圈可点。节奏慢了点,男女主角都还没出来。 中午去吃东海面馆,吃好去超市买菜。 晚上自己烧饭。 和建明打王者。调到钻石了。 2019年3月5日2 中午吃了缙云烧饼,又去了采荷面馆,回来拉肚子了。 天街这里真是个好地方,总是能看到美好的人和事,虽然自己只是一个过客。 今天褚时健去死了,看到热点就像闻到血腥的鲨鱼。 汪洋保安也被劝退了,自己熟悉的人命运怎么都这么悲惨,大概就是因为熟悉,才了解他们不为人知的苦涩和不堪把。 2019年3月6日3 早上一路听倚天屠龙,到张翠山自刎这一节,感动,走在路上,感觉自己一身都是侠肝义胆。 早上吃麦当劳。 中午吃米粉,胃不太好,昨晚坐车很难受。 晚上坐地铁,去吃了高祖生煎。 回来看倚天屠龙,张翠山这角色演绎的不好,又去看了电影版的倚天屠龙。 2019年3月7日4 中午又去吃了煎饼。 买了菠萝 晚上吃盖浇饭。坐地铁回家。 奶奶这几天住院动手术,希望一切安好, 晚上和建明玩王者,这大概是一天中最快乐的时光了。 2019年3月8日5 中午吃了黄焖鸡,和几个外卖小哥一桌,听他们谈论自己的经历,剖有感触。 和谢大夫玩王者。 今天妇女节,不知道外面的世界怎样了 2019年3月9日6 早上弄完公众号玩王者,下午两点去买了煎饼吃。意犹未尽。煎饼真是一样神奇的食物,明明制作的材料都很普通,但合在一起却如此美味。 下午和汪去杭州,大概有一个月没来了。 晚上去吃了麻辣烫。 回来看倚天屠龙记。张无忌终于长大了。 2019年3月10日7 好几个公众号被我举报了 中午去面馆吃,片儿川。 晚上家里吃。 最近玩凯,胜率很高。 2019年3月11日1 中午吃煎饼和肉丝面。昨天的煎饼一直意犹未尽,好担心这家小店有一天会消失。 下午人都走了,就剩我一个,和汪聊了会解闷。 晚上提早走了,因为想吃东海面馆。没想到店里没有人,就没进去,煎饼也关门了。好扫兴。 去吃了肯德基,味道一般,肚子太饿了。 吃完买了水果,菠萝好便宜。
迈向能够学习、记忆、推理、规划、
有常识,但可操纵且安全
杨立昆Yann LeCun
纽约大学
Meta– 基础 AI 研究
监督学习 (SL) 需要大量标记样本。
强化学习 (RL) 需要大量的试验。
自我监督学习 (SSL) 效果很好,但是......
生成式预测仅适用于文本和其他离散模态
动物和人类:
可以非常快速地学习新任务。
了解世界是如何运作的
可以推理规划
人类和动物都有常识
那里的行为是由目标(驱动器)驱动的
在不久的将来,我们与数字世界的所有互动都将由人工智能助手进行调解。
智能眼镜
通过语音、视觉、显示、肌电图接口 (EMG) 进行通信
智能辅助
可以回答我们所有的问题
可以在日常生活中帮助我们
了解我们的喜好和兴趣
为此,我们需要具有人类水平智能的机器
了解世界如何运作的机器
能够记忆、推理、计划的机器
人工智能助手将需要(超级)人类水平的智能
就像有一群聪明的“人”为我们工作一样
但是,我们今天远未达到人类水平的人工智能
任何 17 岁的孩子都可以在 20 小时的训练中学会驾驶
任何 10 岁的孩子都可以学会一口气清理餐桌
任何家猫都可以计划复杂的行动
我们错过了什么?
学习如何世界工作(不仅仅是从文本中)世界模型。
常识
记忆、推理、分层规划
从感官输入中学习世界模型的系统
E.g.从视频中学习直观的物理原理
a)具有持久记忆的系统
b)大规模联想记忆
c)可以计划行动的系统
d)从而实现一个目标
e)可控和安全的系统
f)通过设计,而不是通过微调。
g)目标驱动的 AI 架构
用于理解和生成文本、图像、视频、3D模型、语音、蛋白质。。。
生成式AI 和
自动回归
大型语言模型
一个接一个地输出文本标记-大模型的现状(包括Transformer)
标记可以表示单词或子单词
编码器/预测器是一种变压器架构
具有数十亿个参数:通常从 1B 到 500B
训练数据:1 到 2 万亿个Tokens
用于生成对话框/文本的LLM:
开放:BlenderBot, Galactica, LlaMA, Llama-2, Code Llama (FAIR), Mistral-7B, Mixtral-4x7B (Mistral), Falcon (UAE), Alpaca (Stanford), Yi (01.AI), OLMo (AI2), Gemma (Google) ....
专有:Meta AI(Meta)、LaMDA/Bard、Gemini (Google)、ChatGPT (OpenAI)…
性能令人惊叹......但。。。他们犯了愚蠢的错误
事实错误、逻辑错误、不一致、推理有限、毒性......
LLM对潜在现实的了解有限
他们没有常识,没有记忆,他们无法计划他们的答案
自动回归LLM(充其量)近似函数
大脑中的Wernicke 和 Broca 区域.
前额叶皮层呢?
AR-LLMs
在输入和输出之间具有恒定数量的计算步骤。代表性较弱。
不要真的讲道理。没有真正的计划,没有常识。
自动回归 LLM 适用于
写作协助,初稿生成,文体润色。 代码编写帮助
他们不好的地方:
提供事实和一致的答案(hallucinations!)
考虑到最近的信息(在上次培训之前)
行为正确(它们模仿训练集中的行为)
推理、计划、数学
使用“工具”,例如搜索引擎、计算器、数据库查询......
我们很容易被他们的流利程度所愚弄。
但他们不知道世界是如何运作的。
-机器不会像动物和人类那样学习世界的运作方式
自动回归LLM 无法接近人类水平的智能
-流利,但有限的世界模型,有限的计划,有限的推理。
-大多数人类和动物的知识都是非语言的。
我们仍然缺少在实现动物智能方面的重大进展
-人工智能在某些狭窄的领域是超人
毫无疑问,最终,机器将在所有领域超越人类智能
人类的总智慧将会增加
-我们应该对此表示欢迎,而不是害怕它。
-没关系,人类,猫和狗可以做出惊人的壮举
-机器人智能远不及什么
-任何 10 岁的孩子都可以学会在几分钟内清理餐桌并装满洗碗机。
我们没有可以做到这一点的机器人。
任何17 岁的孩子都可以在 20 小时的练习中学会驾驶汽车
我们仍然没有无限的Level-5 自动驾驶;
对人类来说容易的事情对人工智能来说很难,反之亦然
LLM
-使用 1.0E13 令牌(0.75E13 个单词)进行训练。每个令牌为 2 个字节。
-数据量:2.0E13 字节。
-人类需要 170,000 年才能阅读(8 小时/天,250 w/分钟。
人类孩子
-前 4 年唤醒 16,000 小时(YouTube 上传 30 分钟)
-200万根视神经纤维,每根携带约 10 字节/秒。
-数据量:1.1E15 字节(100万亿)
-一个四岁的孩子看到的数据是法LLM的 50 倍!
-在 300 小时内,孩子看到的数据比 LLM 还多。
从感官输入中学习世界模型的系统
例如,从视频中学习直观的物理知识
-具有持久内存的系统
-大规模联想记忆
-可以计划行动的系统
-从而实现一个目标
像人类“系统2”一样的理性
-可控和安全的系统
-通过设计,而不是通过微调.
-目标驱动的 AI 架构
目标驱动的人工智能系统
可以学习、推理、规划、
但安全可控
“通往自主机器智能的道路”
-配置器
-世界模型
-成本
-执行器
-行动
-短期记忆
中午自己烧饭,吃得很饱。 下午和汪去滨江,去打探一下周边地形。滨江是个很适合工作的地方,四周都是写字楼。幻想着自己以后来这上班的情景。天气阴沉沉,行走在望不见顶的高楼间有些压抑。找到了凯瑞金座,上了11楼,比想象中的要low很多。不过也没关系。之后坐地铁去了杭州,一比较,这里更富有生活气息。晚饭吃了高祖生煎,吃完去书店。刷了下朋友圈,无非又是这样,在这个秀场,人们习惯了把最光鲜的一面展示给观众。而自己还在没生活奔波,哎。 2018年1月21日 1 早上就来滨江,熟悉一下路线。大概要一小时。去钟书阁坐了会,今天很空。中午去楼下吃了卤派三叔,第一次吃,互联网思维不错。随后又去书店。下午一点多,去见林总。到了楼下发消息不回,直接上去,找黄晨开门,进了林总办公室。林总高谈阔论了一大通,自己静静的当一个观众,大致知道了公司的业务逻辑。有跟我谈了工资和股权,热血沸腾的下楼了。坐地铁去凤起路,借了一个充电宝。晚饭去永和大王吃,很快又饿了。 2018年1月22日 2 早上七点多出发,时间比较宽裕,沿途还去吃了早饭。 到了公司,金晓东也到了。 和林总谈了会,大致确定工作内容。 工作环境很喜欢,一面落地窗,窗外是江景,平静的江水如一面镜子,隔岸的高楼倒影在水面。这简直是自己梦寐以求的工作环境。 中午去吃了骨头饭。 下午研究了医美行业的公众号。 六点肚子实在饿了,去吃晚饭,鸡米饭吃了两碗,又去买了煎饼,终于吃饱了 2018年1月24日 4 中午买了草莓,看大神玩王者。梦寐以求的事,竟然实现了。李白韩信,来去如风,进退自如。 下午去营业厅买手机号,移动太坑,去了电信。一男一女,一唱一和,搞了很久,终于注册好了。 今天周星驰来龙湖天街,6点多过去凑热闹,人满为患,感受一下就离开了。 2018年1月26日 6 昨晚被许的照片惊艳到了,一直在脑海挥之不去。朋友圈里的女生一个个为妻为母,舍不得却无可奈何。而自己却依然是孤单的一个人,想想真是难受。中午家里吃,好久没家里吃完了。 跟一个网友玩游戏,诸葛好厉害。 下午洗澡,今天一天都没出门。 2018年1月29日 2 早上开了小会,几个公众号准备开始前期试运营。 五福集齐了,这已经成为了过年的一种仪式,也知道分不了多少钱,但重要的是获得一种参与感。 中午去吃了淮南牛肉汤。 下午办公室就剩我一个了。 2018年1月30日 3 早上坐公交,第一次坐,时间差不多。 今天林总来的很早。 集五福 迷蒙团队发的一篇文章刷屏了,迷蒙这妖怪又来兴风作浪了。含迷率 中午吃兰州拉面。 晚上吃面。 晚上去参加年会,做金晓东的车,地址在西湖边。 进去人已经坐满了,比想象中的多,很多陌生的面孔。 都是领导,有些拘谨。喝酒敬酒,互吹互黑,感觉有些油腻。 自己是唯一的九零后。 喝完合影留念。 2018年2月4日 今天年三十。这一年倒没觉得过得很快,去年过年的记忆已经很模糊,好像过了很久了。 今天姐姐来了,好久没见到她了,每次见面都是焕然一新的感觉,不过彼此好像没有陌生的感觉,三秋不见如隔一日。还加了她的微信,看了下他的朋友圈,像是一个五彩绚烂的万花筒,一个人过的精彩不精彩,看朋友圈就知道,和他一对比,自己的朋友圈就太过寒碜了。对她的态度,自己一直是发自内心的希望她过的好,很喜欢他这样类型的女生,落落大方,有才华,有情怀,有自己的想法,虽然有些小缺点,但正是她可爱的地方。祝福她有美好的未来。其实我还是很喜欢跟人聊天的,只是在生活中有共同语言的太少,于是给人一个沉默寡言的印象。 晚上开车去朱盼家。在旺角城附近,地理位置很不错,走进家里让人眼前一亮,整体风格简约轻奢,自己曾经也想装修一个别具一格的家,现在想想,并没有什么必要。就像当初装修大学寝室,一开始心血来潮,想给自己一个美好的生活环境,后来日子一久,也就流于庸常了。 给大神送了猪八戒。他的表情太逗了。 买了凯的皮肤。 晚上群发祝福,很多平时想说却没机会聊的人,可以借着送祝福的名义搭讪了。 第一次给许评论朋友圈,下了很大的决心,还拉黑了好几人,哎,自己做人怎么这么累,庸人自扰啊。随后又给很多人点了赞,难得自己这么低姿态。雨露均沾,一个屌丝的日常,愿自己新年好运。 许竟然回我了,这样一点小小的突破,自己却已经是极限了,与她的关系就到此为止了。想想真是无奈。对不起我尽力了。 2018年2月5日 早上去大舅家,今年养了两条狗,看到曾经那条威风凛凛的大狗如今却有些垂垂老矣,岁月不饶狗啊。狗这一辈子虽然有吃有喝,却是被禁锢的一生,终身被束缚在这方寸之地,只能用几声犬吠证明自己的存在感。 晚上去远远家,远远去旅游了。一直把过年当成一个不可缺席的仪式,以后也要开始逃离了。 2018年2月6日 早上七点不到就起来了,真是奇迹。烧了饺子吃。 去外婆家,吃完又去田间走了几圈,又是一年芳草绿,每年都会在这打卡,看着头顶高架上的列车飞驰而过,像极了短暂的人生。拍了些照片发朋友圈。晚上自己家里吃。 2018年2月7日 过年的节奏就是逛吃逛吃。中午去经由吃。饭菜挺不错。吃完看NBA,好久没认真看过比赛了。好多人都不认识。 晚上去远远家吃饭,远远出国旅游去了。 2018年2月8日 中饭家里吃。 晚上去宏利家吃饭。 牛肉被我承包了,吃了两碗饭。 宏利的女朋友来了,没仔细看,和想象中的不太一样。 吃完玩游戏。 2019年2月9日 中饭家里吃 下午看了会雪国列车 晚上家里吃,奶奶那边的亲戚来吃饭。过年这几天只要是家里吃都吃的很满足。 和谢玩王者,输多胜少。他这个人心态真差,连游戏都输不起,我真鄙视你。 2018年2月10日 最后一天。 年就像一头飞驰而过的野兽,还没看清模样就不知所踪了。 今天好冷,看了天气都是下雨天。 下午回萧山。车上挺空。想到了雪国列车中的景象。 晚饭吃的很饱,把带来的最后一点年味吃完了,明天又是新的开始。 2019年2月12日 中午走了很久,最后吃了嵊州小吃。又去买了两个手机号。 结果发不了短信。 晚上去吃了兰州拉面,吃完再去电信,弄了很久,才知道是因为没钱。 2019年2月13日 这几天阴雨绵绵,加上天冷,浑身难受。 中午去吃了天街的面馆,吃完去拿手机卡。 买的手机终于到了。 把林总的银行卡绑定了 设计了中医公众号的图 晚上去吃了兰州拉面,第一次点饭,竟然全部吃完了。 2019年2月14日 今天早上的公交是史上最挤的一次,看着一个个前赴后继上车的人,自己站在角落倒也有一番滋味。 早饭吃蛋挞。 中午看黄成玩狄仁杰,赏心悦目。很喜欢他那种举重若轻的态度,不管是游戏里还是生活中。 中饭吃鸡肉饭,涨价了。 公众号最近流量很大,要把一部分精力放到中医领域去。 晚饭去吃牛肉汤。 今天情人节,走在路上处处都是甜蜜暴击。远远看着龙湖天街灯火辉煌,想来今天这里已经充满甜蜜。 朋友圈好几个秀恩爱的,真是佩服,这把年纪了还有如此的虚荣心呵表现欲。活到老,装到老。还有真要秀能不能秀的有内涵有水平一点,什么鲜花口红红包,真是俗不可耐。 自己真的越来越老了,主要是心态上的衰老。 回家玩几把王者,2输2胜,一天没玩,回家玩游戏是一天最大的期待。 2019年2月15日 汪在找工作,挺同情他的。想想自己挺幸运的,塞翁失马焉知非福,因祸得福。 今天有座位了,听鲍鹏山的水浒。 早上吃刚买的蛋糕。中午吃兰州拉面,附近的饭店都被吃遍了。 公众号越来越多,管理有点吃力。6个号每天都要更新,发布20篇文章,加几十个好友,拉一百多人入群,每天都是紧锣密鼓。 两个新号还在注册中,开了一点号和大风号,主要起辅助作用。 晚上又是最后一个走,很享受一个人的感觉。晚上吃黄焖鸡。 2019年2月16日 做了一个好梦。梦回校园时代。拥有了一个情投意合的同桌,完全符合我心中另一半的模样,可以一张眼什么都没有了。 中午去吃东海面馆,味道还不错。 晚上玩游戏,要控制游戏时间。 2019年2月17日 早上起来搞公众号,看了会全明星,中饭家里吃。 看了会诗词大会的片段。 晚上家里吃。 跟汪洋谈工作的事。 2019年2月18日 1 早上坐公交竟然晕车,在建设一路下车,一路走到地铁站。地铁上慢慢恢复了。到公司已经快十点了。一路上听武松的讲解,热血沸腾。 中午去吃了烧鸡饭,下午思考公众号新名字,翻了很多佛学的古诗词,从里面提取。 晚上去了一家新店 回家剪头发等了2个小时,完了几把王者,回到家12点了。 2019年2月19日 2 早上有发掘了一家新店,早餐不错。中饭也去这家吃快餐。 下午开了个会,很欣慰林总能把我们当兄弟,我会一直站在他一边。 今天元宵节了,不过是一个普通的节日,甚至是普通的一天。 晚上爸给我发了一位女生照片,说是相亲对象。倒还蛮期待的。我总是太独立自主,其实有时候也学会去向别人寻求帮助。 2019年2月20日 3 早上还是去快餐店。 下午和黄和葛玩王者,终于上星耀了。 2019年2月22日 5 中午买了杂粮饼,又去吃了馄饨。路上碰到黄成。 公司全是男的,发现自己好久没有和女生聊天了。 能来这公司真是因祸得福,希望幸运能多眷顾我一些,运气这东西对于那些已经到达人生巅峰的来说是可有可无,但对于普通人却往往起到至关重要的作用。 最近在写贫富差距的文章,人和人的差距有很多,经济、相貌、智商……很多都是难以逾越的。渐渐的就习惯了这种差距,习惯了仰望习惯了羡慕,也就失去了改变的欲望。 晚上吃了叉烧饭,公交上一路闭眼冥思。 2019年2月23日 6 早上先去了新房,不太喜欢这位置,周围设施都不太完善,我的理想是能住在杭州,准确的说是幻想。不知道以后会是谁和我在这里共度余生。 早饭吃了片儿川。 去了戴村,买中药。地方找了好久才找到。 中午奶奶家吃饭,多了个小女孩。每个女生都曾经天真烂漫过,长大了就失去了很多可爱的地方。 汪洋去当保安了,早就料到。 晚上吃鸡,味道不错,可惜没酱油。 看到许有更新了朋友圈,只是他发的都好难接话。感觉很难和他产生交集。 2019年2月25日 1 早上打包早饭回来吃。 中午买了杂粮饼和馄饨。 晚上吃了面,汤太多。 2019年2月26日 2 今天地铁人真多,杭州都这样,难以想象北京是怎样情景,放眼望去都是年轻人,都和自己一样日复一日的过着两点一线的生活,如果站在上帝视角,我们都是多么渺小的生命啊,如天地浮游,如沙洲微尘,在狭窄的车厢里,在拥挤的人流中,在大厦的格子间,朝来暮去,碌碌一生。 这个社会好像什么都有,可是什么都要去争去抢,考试、求职、购物……甚至连做个公交都要抢。如果你不愿意争,那就只好老老实实等待,等来的是一个结果也可能是错过。 今天很迟去吃早饭,把自己的生物钟往后延迟一下,能避开不必要的等待。 中午和葛蓓乐吃饭。还是挺享受一人食的。一个人自由自在随心所欲,自己真的变了好多,记得以前也很喜欢凑热闹,害怕孤独,更害怕被人知道自己孤独,总喜欢成群结队,即使不 2019年2月27日 3 中午又是煎饼和拌面。 晚上和汪逛了会,听他的苦命经历。 回家看了会倚天屠龙记,今天开始又要开始一段江湖了。 2019年3月1日5 今天竟然已经三月份了,春天要来了。一个美好的季节,春光无限好,只是无人共赏,独自逍遥。 中午吃煎饼和拌面,这种搭配真是物美价廉, 晚上煎饼和馄饨。要变成煎饼侠了。 关于学历收入的文章终于写完了,效果不错。 2019年3月2日6 早上看了倚天屠龙,可圈可点。节奏慢了点,男女主角都还没出来。 中午去吃东海面馆,吃好去超市买菜。 晚上自己烧饭。 和建明打王者。调到钻石了。 2019年3月5日2 中午吃了缙云烧饼,又去了采荷面馆,回来拉肚子了。 天街这里真是个好地方,总是能看到美好的人和事,虽然自己只是一个过客。 今天褚时健去死了,看到热点就像闻到血腥的鲨鱼。 汪洋保安也被劝退了,自己熟悉的人命运怎么都这么悲惨,大概就是因为熟悉,才了解他们不为人知的苦涩和不堪把。 2019年3月6日3 早上一路听倚天屠龙,到张翠山自刎这一节,感动,走在路上,感觉自己一身都是侠肝义胆。 早上吃麦当劳。 中午吃米粉,胃不太好,昨晚坐车很难受。 晚上坐地铁,去吃了高祖生煎。 回来看倚天屠龙,张翠山这角色演绎的不好,又去看了电影版的倚天屠龙。 2019年3月7日4 中午又去吃了煎饼。 买了菠萝 晚上吃盖浇饭。坐地铁回家。 奶奶这几天住院动手术,希望一切安好, 晚上和建明玩王者,这大概是一天中最快乐的时光了。 2019年3月8日5 中午吃了黄焖鸡,和几个外卖小哥一桌,听他们谈论自己的经历,剖有感触。 和谢大夫玩王者。 今天妇女节,不知道外面的世界怎样了 2019年3月9日6 早上弄完公众号玩王者,下午两点去买了煎饼吃。意犹未尽。煎饼真是一样神奇的食物,明明制作的材料都很普通,但合在一起却如此美味。 下午和汪去杭州,大概有一个月没来了。 晚上去吃了麻辣烫。 回来看倚天屠龙记。张无忌终于长大了。 2019年3月10日7 好几个公众号被我举报了 中午去面馆吃,片儿川。 晚上家里吃。 最近玩凯,胜率很高。 2019年3月11日1 中午吃煎饼和肉丝面。昨天的煎饼一直意犹未尽,好担心这家小店有一天会消失。 下午人都走了,就剩我一个,和汪聊了会解闷。 晚上提早走了,因为想吃东海面馆。没想到店里没有人,就没进去,煎饼也关门了。好扫兴。 去吃了肯德基,味道一般,肚子太饿了。 吃完买了水果,菠萝好便宜。
感知:计算世界状态的抽象表示
可能与内存中先前获取的信息相结合
世界模型:预测由想象的动作序列产生的状态
-任务目标:衡量与目标的背离
-护栏目标:确保安全的不可变客观术语
-操作:查找最小化目标的操作序列
在多个时间步长应用的同一世界模型
-应用于整个状态轨迹的护栏成本
-这与模型预测控制 (MPC) 相同
-通过最小化目标进行行动推断
使用基于梯度的方法、图形搜索、动态 prog、A*、MCTS、…
世界不是确定的或完全可预测的
潜在变量参数化了一组合理的预测
-可以从先前的样本中采样,也可以通过集合进行扫描。
-可以针对最坏情况或平均情况进行规划
- 结果的不确定性可以预测和量化
分层世界模型与规划
-较高级别以更抽象的表示形式进行长期预测
较高级别的预测状态定义较低级别的子任务目标
-护栏物镜确保各层安全
My solution: Joint-EmbeddingPredictive Architecture
我的解决方案:联合嵌入预测架构
形式化和理解所有模型类型的唯一方法
-为兼容的 x 和 y 对提供低能量
为不相容的对提供更高的能量
。。。。。。。。。。。。。。。。。。。。。。。。。。。。省略,见附件