分类目录归档:知识库

标量在机器学习中的应用有哪些?


  1. 损失函数中的应用
  2. 均方误差(MSE)
    • 在回归任务中,均方误差是一种常用的损失函数。对于一个包含(n)个样本的数据集,设预测值为(\hat{y}i),真实值为(y_i),均方误差的计算公式为(MSE=\frac{1}{n}\sum^{n}(\hat{y}_i - y_i)^2)。这里的((\hat{y}_i - y_i)^2)计算的是每个样本预测值与真实值差值的平方,这是一个标量。对所有样本的这个标量进行求和并取平均,得到的MSE也是一个标量,它衡量了模型预测值与真实值的整体偏差程度。例如,在预测房价的任务中,MSE越小,表示模型预测的房价与实际房价的差距越小。
  3. 交叉熵损失(Cros...

Read more

Text to Image-发展历史


Text to Image的发展历程是一个充满创新与突破的过程,以下是其详细介绍:

早期探索阶段

  • 在深度学习兴起之前,构建Text to Image模型的尝试主要局限于通过拼接现有图像组件来制作拼贴画,例如利用剪贴画数据库中的图像进行组合 。

基于GAN的初步尝试阶段

  • 2015年:多伦多大学的研究人员推出了第一个现代意义上的Text to Image模型AlignDraw,它扩展了之前的Draw架构,使用带有注意力机制的循环变分自编码器,并以文本序列为条件生成图像。不过,其生成的图像较为模糊,不够逼真,但具有一定的泛化能力,能够处理训练数据中未出现过的物体和新颖的提示.
  • 2016年...

Read more

FID-DL


  1. 定义
  2. FID即Fréchet Inception Distance,是一种用于评估生成模型(如生成对抗网络 - GAN、变分自编码器 - VAE等)生成样本质量的指标。它主要衡量生成样本的分布与真实样本分布之间的距离。
  3. 计算原理
  4. 特征提取
    • 利用在大规模图像数据集(如ImageNet)上预训练的Inception - v3模型来提取特征。Inception - v3是一个深度卷积神经网络,能够很好地捕捉图像的高级语义特征。对于生成样本和真实样本,都通过这个预训练模型来提取特征向量。
  5. 计算均值和协方差
    • 设生成样本经过特征提取后得到的特征向量集合为(m),其均值为(\mu_m),协方...

Read more

灰犀牛事件


灰犀牛事件是指明显的、高概率的却又屡屡被人忽视、最终有可能酿成大危机的事件。以下是关于它的详细介绍:

概念提出

  • 起源:该概念由美国作家、政策分析师米歇尔·渥克在其2017年出版的财经畅销书《灰犀牛:如何应对大概率危机》中提出 。

特点

高概率性

  • 灰犀牛事件发生的概率较大,并非小概率的意外事件。例如,全球气候变化带来的灾害性天气,随着温室气体排放的增加和气候变暖的趋势,极端天气事件如暴雨、洪涝、干旱、飓风等发生的频率和强度都在不断增加,对人类社会和自然环境造成巨大影响,这是一个大概率会发生的危机。

可预见性

  • 在危机爆发前往往有明显的信号或前奏,是可以被预见的。如美国次贷危机爆发前...

Read more

黑天鹅事件


黑天鹅事件是指具有意外性、稀有性、极大的冲击性且难以预测的重大事件,以下是关于它的详细介绍:

概念提出

  • 起源:黑天鹅事件这一概念由纳西姆·尼古拉斯·塔勒布(Nassim Nicholas Taleb)在其2007年出版的著作《黑天鹅》中提出。在发现澳大利亚的黑天鹅之前,欧洲人一直认为天鹅都是白色的,“黑天鹅”曾经是他们言谈与写作中的惯用语,用来指不可能存在的事物。然而,澳大利亚黑天鹅的出现彻底颠覆了这一认知,塔勒布借此比喻那些难以预测、但一旦发生就会产生巨大影响的稀有事件。

特点

稀有性

  • 黑天鹅事件通常是极其罕见的,在历史的长河中很少发生。例如,2008年全球金融危机、2020年新...

Read more

蝴蝶效应


蝴蝶效应是指在一个动力系统中,初始条件下微小的变化能带动整个系统的长期的巨大的连锁反应,以下是关于它的详细介绍:

概念提出

  • 提出者:美国气象学家爱德华·洛伦兹(Edward N. Lorenz)。1961年,他在使用计算机模拟天气变化时,发现了一个有趣的现象:将一个初始值输入计算机程序后,稍微改变这个初始值,哪怕只是小数点后几位的微小差异,最终得到的天气模拟结果却大相径庭。他形象地将这种现象比喻为“一只蝴蝶在巴西轻拍翅膀,可以导致一个月后德克萨斯州的一场龙卷风”,蝴蝶效应因此得名。

原理分析

  • 敏感性依赖:蝴蝶效应的核心在于系统对初始条件的极度敏感性依赖。在复杂的动力系统中,如天气系...

Read more

复利效应


复利效应是一种在投资、经济增长等领域具有强大影响力的现象,以下是对其详细介绍:

基本概念

  • 复利是指在计算利息时,将上一期的利息加入本金,再计算下一期利息,如此逐期滚算,俗称“利滚利”。例如,本金为(1000)元,年利率为(10\%),第一年的利息为(1000×10\%=100)元,第二年的本金就变为(1000 + 100 = 1100)元,第二年的利息则为(1100×10\%=110)元,以此类推。

数学公式

  • 复利终值的计算公式为:(F=P(1 + r)^n),其中(F)表示终值,即期末本利和的价值;(P)表示本金;(r)表示年利率;(n)表示期数。

特点

时间积累性

复利效应的...

Read more

飞轮效应


飞轮效应是指为了使静止的飞轮转动起来,一开始你必须使很大的力气,一圈一圈反复地推,每转一圈都很费力,但是每一圈的努力都不会白费,飞轮会转动得越来越快。当达到某一临界点后,飞轮的重力和冲力会成为推动力的一部分,此时你无须再费更大的力气,飞轮依旧会快速转动,而且会不停地转动。以下是对其详细介绍:

概念提出

  • 提出者:吉姆·柯林斯(Jim Collins),他在研究那些能够实现从优秀到卓越跨越的公司时,发现了这一规律,并在其著作《从优秀到卓越》中提出了飞轮效应。

核心原理

  • 坚持积累量变:强调了在事物发展初期,需要持续不断地投入努力,通过一点一滴的积累,逐渐形成一种势能。就像推动飞轮一样,前...

Read more

马太效应


马太效应(Matthew Effect)是一种强者愈强、弱者愈弱的社会现象,广泛存在于社会生活的各个领域,以下是对其详细介绍:

名称由来

  • 马太效应源自《圣经·新约·马太福音》中的一则寓言:“凡有的,还要加给他叫他多余;没有的,连他所有的也要夺过来。”1968年,美国科学史研究者罗伯特·莫顿(Robert K. Merton)将这种现象正式命名为“马太效应”,用以概括一种社会心理现象:相对于那些不知名的研究者,声名显赫的科学家通常得到更多的声望和资源,即使他们的成就是相似的。

内涵及本质

  • 内涵:马太效应描述的是在任何个体、群体或地区之间,一旦在某一个方面如金钱、名誉、地位等获得成功和...

Read more

二八定律


二八定律又称80/20法则、帕累托法则、关键少数法则等,它指在很多情况下,80%的结果是由20%的因素所决定的。也就是说,在所有变因中,最重要的仅有20%,虽然剩余的80%占了多数,但影响的幅度却远低于这“关键的少数”。以下是对二八定律的详细介绍:

起源与发展

  • 提出者:二八定律是由意大利经济学家帕累托提出的。1897年,帕累托在研究英国人的收入分配问题时发现,大部分财富流向了少数人手中,他通过长期的观察和研究得出了这一具有广泛适用性的规律。
  • 理论完善:后来,人们在多个领域不断验证和完善了二八定律,发现其在管理学、社会学、心理学等众多领域都有体现,逐渐成为一种重要的思维方式和分析工具。
  • ...

Read more