Sally's Cafe

宇宙,时间,空间,猫,思考,咖啡,游戏,爱,人生全部的意义,只是为了经历所有不曾遇到和灵光乍现那一刻的喜悦,最美好的,永远是现在。

View the Project on GitHub sherryuuer/SallysCafe

6 March 2024

对于神经网络领域的一种见解:也许加上遗传强化才是最终归宿

by s

通过阅读和学习让我看到的神经网络的强大的一面,一个好的神经网络模型,不一定是确定的超参数,而有可能是因为好的数据,大量的数据,或者时间地点等各种因素,训练方法和训练数据和训练时间,微调的运气,都会造就一个好的模型。这很难。

好的神经网络看起来就像一个学生,学习结果的好坏要看他的学习过程中的很多因素。

当想通了这一点仿佛整个系统就不难理解了。但是谁能理解一个人的学习过程。问题终究回到了对人自己的研究中。

我通过自己考试的经验感受到的是来自经验的学习,会造出更好的结果,这种方式相近的算法模型,不是神经网络,而是强化学习,遗传算法等更难的算法。他们引入的是一个新的领域,神经网络算法的成功是很多历史因素造成的,但是他的应用还是有限的,因为一个只会考试的好学生,不是一个真正的好学生。

每一个算法都让人着迷。

就像每一个不可解的人。

宇宙的终极真理指引着这一切,数学符号清晰表达这一切,但是智慧不可能只在相关性中获得。

所以我觉得:未来的最好的算法,应当是神经网络(超强大脑)加上强化学习算法(实践经验)和遗传算法(迭代代理)的相结合。


各个学科在看世界上的角度不同,研究对象不同,所以容易被眼前的事物,局限。自己也是,学科也是,整个科技前沿也是,只有那些看到更多深层联系的人,会有所突破。从不同的视角,近距离,远距离,各种实践中研究这个问题。

对深度学习等再做一个深入学习后我会进入强化学习。同时不应该忽视日常的经验作业。对自己的极限的认知也是对技术的一种认知。

tags: tech