TY - T1 - Constraint Grammar is a hand-crafted Transformer SN - / UR - http://hdl.handle.net/10138/310444 T3 - NEALT Proceedings Series A1 - Yli-Jyrä, Anssi A2 - Bick, Eckhard; Trosterud, Trond PB - Linköping University Electronic Press Y1 - 2019 LA - eng AB - Syvät neuroverkot (DNN) ja lingvistiset säännöt ovat tällä hetkellä luonnollisen kielen käsittelyteknologioiden ääripäitä. Aina viime aikoihin asti on ollut epäselvää kuinka näitä teknologioita voitaisiin yhdistää. Sen vuoksi näitä teknologioita on tutkittu lähes täysin toisistaan erillään olevissa tutkimusyhteisöissä. Muistutan tässä artikkelissa ensimmäiseksi siitä että sekä sekä Rajoitekieliopilla (CG) että tavallisilla rekurrenteilla neuroverkoilla (RNN) on äärellistilaisia ominaisuuksia. Si... VO - IS - SP - OP - KW - 113 Computer and information sciences; constraint grammar; finite-state capacity; recurrent neural networks; self-attention; attention; rule conditions; Transformer N1 - PP - ER -