LLM2024
条评论摘要:2024年即将过去,发现这一年没有写过一篇博客。今天赶紧补上一篇,也记录一下这一年做了什么。感觉今年什么都没有做好,可能最重要的是尝试进行AI与大语言模型方面的工作。希望明年能有所成吧!
也没有什么好写的,下面就引用一下别人将生命科学类比LLM智能的思考:
从生物化学(生命科学)视角审视,类似宇宙中各种元素在电磁作用,如太阳光,紫外线、雷击等能量促使下,完成从无序到有序、从非生命到生命的分子进化,和从简单到复杂,从低级到高级的生物进化,产生具有智能的人类。大模型(LLM)几百几千亿的数值参数,在显卡电能的驱动下,不断迭代优化,自形成具有各种特定功能性的复杂组织结构,对外呈现出一定的智能形态。
有句名言“生命的起源必然是通过化学的途径实现的”。各种元素在宇宙中广泛存在,这些原子在太空中广泛地结合成分子,不管是在星际中,还是在恒星、行星上,太空陨石就是明证。而在原始地球上,大气成分就包括氢气、水、甲烷、氨气、氮气、一氧化碳、二氧化碳、硫化氢等。在电磁相互作用下,比如太阳光,紫外线、雷击、火山爆发、宇宙射线等,都在提供着能量,促使这些无机小分子频繁地发生着化学反应,直至自发组织成为有机分子。有了大量的有机分子之后,在具备某些条件后,合成更为复杂的有机大分子成为了可能。有机大分子慢慢地进行分子进化,直至产生了具有生物活性的蛋白质、核酸等生物大分子。这便是分子进化。
基于上述分子进化的基础,一旦形成生物大分子,就有一定的生物活性,比如蛋白质呈现出酶的催化活性,核酸分子呈现出一定的自复制能力。当这些生物有机大分子和无机物在温度、酸碱度、阳光等一定环境下反应交互,便孕育了细胞结构,这便导致了生命起源。而生命的出现,是自然系统演化史上的一次重大飞跃。在后续漫长的岁月中,生物不断进化,直至产生有智能的人类。
我们会发现,分子进化,从无序到有序,从非生命到生命;生物进化,从简单到复杂,从低级到高级。整体看来,整个过程是从无序的、随机的原子,到具有一定功能、呈现一定系统结构的生命体。当这些具有一定功能足够复杂的生命体开始进化,从最低级生物的反应性,到不太高级动物的条件反射,再到高级动物能够被刻意训练,再到主观意识产生行为并利用工具改造环境,终于到了有意识性、精神性的智能人类。
而大模型(LLM),最一开始是由几百亿、几千亿无序、随机的数值构成,在整个训练过程中,慢慢迭代进化变得有序,彼此之间交互联系,直至在巨大的参数空间中形成具有一定功能的结构。相对于分子进化和生物进化中提供能量的是电磁作用,而大模型(LLM)参数进化的能量来自显卡的电能,最终这个人工设计的系统产生了信息,类似产生了智能。
本文标题:LLM2024
文章作者:adong
发布时间:2024-12-24
最后更新:2024-12-24
原始链接:http://blog.ligene.cn/2024/12/24/LLM2024/
版权声明:本站所有文章除特别声明外,均采用 CC BY-NC-SA 3.0 CN 许可协议。转载请注明出处!