Attention机制（笔记）

news/2024/7/24 10:56:59 标签: 深度学习, 人工智能

参考：2.3.2注意力机制-part1_哔哩哔哩_bilibili

什么是attention？

答：注意力放在事物最有辨识度的部分

补充说明（chatGPT给出的解释）：

自注意力机制：三者相同，即query=key=value

http://www.niftyadmin.cn/n/5227184.html

如今，每个人都想成为我们所说的“10倍开发者”。然而，这个术语经常被误解和高估。本质上，一个高效或者10倍开发者，在我看来，是指那些能够充分利用所有可用工具的人，通过让这些工具处理冗余和重复的任务&am…

前言，本篇就是介绍在Java中使用相关的日志，适合初学者看，如果对这篇不感兴趣的可以移步了，本篇主要围绕我们Java中的几种日志类型，也说不上有多深入，算的上浅入浅出吧，如果你有一段时间的开发经…

为了方便记录和使用Flutter中的各种控件，特写此博客以记之，好记性不如烂笔头嘛：） 通过控件的首字母进行查找，本文会持续更新控件目录 AAppBar BCContainerColumn （列） DDivider (分割线) EElev…

论文标题：基于深度学习的表情动作单元识别综述作者：邵志文1，2，周勇1，2，谭鑫3，马利庄3，4，刘兵1，2，姚睿1，2 发表日期&#xff1a…

前言： 基于课本、上课ppt、复习总结ppt进行一个知识点的罗列，方便后期高效地复习目录前言： 一、基本概念 1.数据： （1）概念： （2）数据的种类： （3&…

开发场景：点击条件筛选按钮，在弹出的popup框中让用户选择条件进行筛选但是在iphone12/13pro展示是正常，但是切换至其他手机型号就填充满了整个屏幕，需要给这个弹窗设置一个固定的高度 iphone12/13pro与其他型号手机对比一开始…

本文概要这是Android系统启动的第三篇文章，本文以自述的方式来讲解lmkd进程，通过本文您将了解到lmkd进程在安卓系统中存在的意义，以及它是如何杀进程的。（文中的代码是基于android13） 我是谁 init：“大…

项目范围管理包括确保项目“做”且“只做”所需的全部工作（即不能少做，也不能多做，如果多做，就要消耗团队额外的时间和资源，并且无法被认可），以成功完成项目。项目范围管理主要在于定义和控制哪…