/tags/computer-science/ Recent content in Computer Science on The Personal Website of Myosotics Hugo -- gohugo.io en-US Fri, 27 Oct 2023 00:00:00 +0000 /blog/2023-10-27-2023-10-21-multi-instance-learning-a-survey-1/ Fri, 27 Oct 2023 00:00:00 +0000 /blog/2023-10-27-2023-10-21-multi-instance-learning-a-survey-1/ 摘要 英文原文 In multi-instance learning, the training set comprises labeled bags that are composed of unlabeled instances, and the task is to predict the labels of unseen bags. This paper provides a survey on this topic. At first, it introduces the origin of multi-instance learning. Then, developments on the study of learnability, learningal gorithms, applications and extensions of multi-instance learning are reviewed. In particular, this paper employs a unified view to look into multi-instance learning algorithms. /blog/2023-10-27-2023-10-21-multi-instance-learning-a-survey-2/ Fri, 27 Oct 2023 00:00:00 +0000 /blog/2023-10-27-2023-10-21-multi-instance-learning-a-survey-2/ 上接：Multi-Instance Learning: A Survey Learning Algorithm supervised learning 和 multi-instance learning 的主要区别是能否(较好地)识别instances。 目前大部分现存的 multi-instance learning 算法均是从 supervised learning algorithm 改进而得到的：将 supervised learning algorithms 的 focuses 从识别 instances 转移到 识别 bags。此处主要介绍检验了五种算法。 Diverse Density Diverse Density 算法将每个 bag 当作一个包含许多特征向量(instance)的 manifold，并 且假定一个新的 positive bag 与所有 positive 的 feature-manifolds 相关，而与 negative feature-manifolds 不相关。目标是计算一个点在 feature space 中的 maximum diverse density。 给定一个数据集$D$和一组类别标签$C=\{c_1,c_2,\cdots,c_t\}$去预测，在假定 $P_r(D)$为常数和$c_k$服从均匀分布的基础上，利用 Bayes rule，标签的后验概率计算 为 \begin{equation} \begin{aligned} Obj &=Pr(C|D)]\\ &\propto \mathop{\arg \max}\limits_{1\leqslant k\leqslant t}P_r(D|c_k) \end{aligned}\tag{1} \end{equation} 公式 (1) 在目标是区分 instances 时已经足够，但是对于区分 bag 时，需要考虑 $D = \{B_1^+,\cdots,B_m^+,B^-_1,\cdots,B_n^-\}$，其中$B_i^+$和$B_j^-$分别表示 第$i$个 positive bag 和第$j$个 negative bag。在假定 bag 间是条件独立的基础上， 再次利用 Bayes rule，公式(1)进一步得到如下： \begin{equation} Obj = \mathop{\arg\max}\limits_{1\leqslant k\leqslant t} \prod_{1\leqslant i\leqslant m}Pr(c_k|B^+_i) \prod_{1\leqslant j\leqslant n} Pr(c_k|B_j^{-})\notag \end{equation} /blog/2023-10-17-np-p-npc-np-hard/ Tue, 17 Oct 2023 00:00:00 +0000 /blog/2023-10-17-np-p-npc-np-hard/ 注意NP、P、NPC、NP-hard 概念大部分参考知乎：https://zhuanlan.zhihu.com/p/235301347. 图灵机1 图灵机是一个模拟算法运行的抽象机器，定义如下： 有一个无限长度的磁带，这个磁带被分成了一个接一个的单元格，磁带被用于写入字母和符号。 一个读写磁带的磁头，这个磁头负责控制堆磁带的写入和左右移动。 一个状态寄存器，用来存储图灵机的状态。 一个指令表，可以根据机器当前所处的状态和磁带上当前的符号，指示机器进行特定的操作。比如：擦除或者写入一个符号、向左或者向右移动磁头。 确定图灵机和非确定图灵机 在确定性图灵机（DTM）中，其控制规则规定了在任何给定情况下最多只能执行一个动作。在理论计算机科学中，非确定性图灵机（NTM）是一种理论计算模型，其控制规则在某些给定情况下指定了多个可能的动作。 也就是说，NTM的下一个状态不是完全由其动作和它所看到的当前符号决定的（不同于确定性图灵机）。 Note：任何NDTM可以转换为DTM(反之亦然)，即二者虽然运行时不同，但最终结果等价。 NP问题 定义 非确定型图灵机在多项式时间内可以找到解的问题，简单说就是可以在多项式时间里验证一个解的问题。 延伸 P问题属于NP问题，但P问题是否等于NP问题，目前仍然是一个世界难题。 P问题 定义 确定型图灵机在多项式时间内可以解决的问题，简单说就是可以在多项式时间里解决的问题。 延伸 一般来说，P问题在生活中更有意义。因为可以在多项式时间里解决就意味着问题复杂度不会随着数据规模的扩大而指数爆炸，在生活中更容易被解决。 约化(Reducibility) 定义 A问题可以约化成B问题，代表可以用B问题的解法解决A问题。如“求解一元一次方程” 问题可以约化成 “求解一元二次方程” 问题，只需要令 “求解一元二次方程” 问题中二次项系数为 即可解决 “求解一元一次方程” 问题。 延伸 约化的过程是难度升级的过程，且约化具有传递性。 NP-complete 问题(NPC) 定义 NPC问题即为所有NP问题可以约化到的一个问题，是所有NP问题中最复杂的问题。NPC问题满足条件： 该问题是一个NP问题； 该问题可以由一个已知的NPC问题约化到它。 第一个NPC问题是逻辑电路问题。 NP-hard 问题 定义 NP-hard 问题即满足NPC问题的第二个条件，但不一定满足第一个条件，因此NP-hard要比NPC问题范围更广，NP-hard问题不一定是NP问题。 此处大部分参考知乎：https://zhuanlan.zhihu.com/p/364080272. ↩︎