宇宙，时间，空间，猫，思考，咖啡，游戏，爱，人生全部的意义，只是为了经历所有不曾遇到和灵光乍现那一刻的喜悦，最美好的，永远是现在。
by s
我没想到今天在学习生成对抗网络的时候，再次看到了熵增定律的另一面。生成对抗网络的整个训练过程就是一种零和博弈的过程，生成网络和判别网络之间互相对抗，生成网络努力让自己生成的图片，欺骗判别网络，让他看不出来和真实图片的差异。当我看到项目代码输出的可视化，损失函数不断变化最后在中间汇聚，两个网络的能力不相上下，当我看到生成器生成的样本和真实样本越来越像，我看到的是一种动态的变化一种事物发展变化的过程。
那么，这种生成图片和真实图片的差异从何而来。他们是如何定义这种差异的。
不确定的万物，靠分布进行区分。生成器的生成图片的过程，是从一个潜变量分布来（这是变分自编码器那里学习到的）的，将它作为一个先验分布p(z)，生成图片的过程就是似然分布p(x/z)，同时还有另外几个公式定义，他们的组合就是贝叶斯公式，这里不得不说贝叶斯公式真是太神奇了。可以去自编码器那一篇中看。生成器的生成，是一个努力让自己的生成图片的分布接近于真实图片的分布的过程。想象两个网络的对抗，为了让生成器无限优秀，结果就是两边的零和博弈达到五五开，也就是熵最大的状态，这个时候分布和分布之间的差异不再明显，生成器成功迷惑了判别器的判别。反过来说，判别器在做的事情，就是让真实数据的损失变小，让生成数据的损失变大，判别器就像一个整理师，让两边边界分明，做一种减熵运动。
正是这种熵最大的过程，让生成器生成了生动的图片。
这启发我想起了谷歌吴军老师讲过的，世界如果要毁灭了只能留下三个公式，那么必定是熵增，质能方程，和1 + 1 = 2。深有同感。
关于1 + 1 = 2，中间包含了数学定义的伟大，因果逻辑，确定性，抽象工具等重要的思想，同时在我看来还有第三层含义。就是阴阳对立和极简的思想。
大道至简，万物的起点都是无比简单，但是又蕴含了巨大的能量的。关于简单的力量我甚至都不需要赘述。最近的工作我深感一天中，与其将精力放在好几件事情上，不如专功一点来的效果好。尤其是这两天，我在学习变分自编码器的时候遇到困难，在公式理解上很多还没有到位，于是我沉下心来放慢脚步，反而有了很多思考，在理解上也更轻松了。我做了项目看这代码的输出和变化，感受到了原理在里面的实现。
无论是什么人都需要一种简单的脚踏实地的精神。我以前总说，如果一个人说自己道理都懂但是却过不好这一生，那说明他没真的懂道理。但是其实还有一种情况，那就是他真的懂，但是他却没有将自己的所知所感，用于实践，没有做到知行合一，他的思想和实践渐渐产生了落差，人就会走向偏颇。
所以无论何时，简单都是一种无限的力量。
这个公式给我的另一种启发，是递归，是分而治之的思想。递归中也蕴含了因果的思想，分而治之推崇将小的问题合并，或者反过来将大的问题拆成小问题，都是解决问题的一种方法。他给我们的方法论，可以通过思考变的无限多。
爱因斯坦用一个简单的方程统一了宇宙。这是超越了人类想象的壮举，是对人类认知的再一次突破。物质和能量是可以相互转化的，他们是等价的。
而今天早上醒来的时候，我还看到了一篇文章，启发我们方法论层面的东西是低维度的，能量场才是高维度的。没有什么方法论，可以驱动我一直做的都是我喜欢的事情，不管是以前的任何事情，或者做一个认真的gamer，或者是现在的称为学习的活动。推动我的从来都不是方法，而是一种我感受到的能量。这股能量驱动我的身体，无意识地动起来。而我自己的内在的能量，又会催生我做手中事情的能量，在这些事情中我再次得到能量。所有都是一个正向的循环。
我其实一直好奇这样的循环什么时候会突然断掉，就像我以前对新鲜事物的很多主动尝试一样，但是这次似乎不太一样。还是很感谢他在去年八月给我的契机。
S = -sum(PlnQ)这个从热力学来的信息论方程，看似描述的是学科知识，其实中间是宇宙的定律。概率分布函数，从幂律到正态分布。从有序到无序。从确定到不确定。这就是宇宙的走向。
人的一生就是一个从有序到无序的过程，最终归于死寂，宇宙也是一样的。我们的目的永远逃不开对熵的逆转。只有让自己保持开放的心态，不断的从外界获取能量，及时修正自己，才能避免在一个封闭的空间中无限增加混乱度。人和宇宙的终结都不可避免，但是至少在过程中，让每个逆转熵增的过程都有内啡肽让自己感受到生命的张力。
有时候对于看不到终极的真理这件事，我时常抱着悲观的心态，但也许说不定，真理的钥匙已经掌握在人类的手中。只是人们还需要上帝的骰子，给我们更多的提示。无论何时，乐观永远都比悲观更有用。积极的心态就是打开最终宝藏的关键也说不定。
tags: tech