Differences
This shows you the differences between two versions of the page.
Next revision | Previous revision | ||
data:analysis:attention [2024/07/04 05:20] – created prgram | data:analysis:attention [2025/07/07 14:12] (current) – external edit 127.0.0.1 | ||
---|---|---|---|
Line 1: | Line 1: | ||
====== Attention ====== | ====== Attention ====== | ||
+ | |||
+ | |||
+ | 셀프어텐션은 입력 시퀀스 내의 각 토큰이 ‘자신을 포함한’ 다른 ‘모든 토큰과 상호작용’하며, | ||
+ | |||
+ | 크로스 어텐션은 입력 시퀀스와 목표 시퀀스(예: | ||
+ | |||
+ | 요약하면, | ||
+ | 션은 서로 다른 시퀀스(예: | ||
+ | [20230331_Everything Everywhere All at Once AI가 불러온 신산업 혁명_미래에셋증권] | ||
+ | |||