008240612s2023      us  |||||||||||||||c||eng  d
■001000016932430
■00520240214100457
■006m          o    d                
■007cr#unu||||||||
■020    ▼a9798379604158
■035    ▼a(MiAaPQ)AAI30492497
■040    ▼aMiAaPQ▼cMiAaPQ
■0820  ▼a004
■1001  ▼aZhou,  Jiawei.▼0(orcid)0000-0001-5590-6270
■24510▼aGenerating  Semantic  Graphs  for  Natural  Language▼h[electronic  resource]
■260    ▼a[S.l.]:▼bHarvard  University.  ▼c2023
■260  1▼aAnn  Arbor  :▼bProQuest  Dissertations  &  Theses,  ▼c2023
■300    ▼a1  online  resource(189  p.)
■500    ▼aSource:  Dissertations  Abstracts  International,  Volume:  84-12,  Section:  B.
■500    ▼aAdvisor:  Rush,  Alexander  M.  ;Yu,  Minlan.
■5021  ▼aThesis  (Ph.D.)--Harvard  University,  2023.
■506    ▼aThis  item  must  not  be  sold  to  any  third  party  vendors.
■520    ▼aNatural  language  understanding  is  a  critical  capability  in  achieving  advanced  artificial  intelligent  language  processing  systems  such  as  reading  comprehension,  question  answering,  and  interactive  dialogues.  Despite  the  remarkable  progress  made  by  modern  deep  learning  techniques  for  natural  language  processing  (NLP)  in  the  past  decade,  machines  still  lag  behind  human  capacity  in  deep  language  understanding.  This  requires  machines  to  represent  and  comprehend  the  underlying  meaning,  or  semantics,  from  the  surface  form  of  language  despite  its  variations  and  intricacies.  Explicit  semantic  representations  of  language  provide  a  systematic  way  of  building  interpretable  and  controllable  agents  with  language  understanding  ability,  especially  with  versatile  graph  structures.  Abstracting  away  from  the  surface  form  of  language,  the  semantic  graphs  can  capture  complex  semantic  phenomena,  and  provide  a  structured  and  consistent  way  of  presenting  the  underlying  meaning  of  language,  which  can  be  utilized  for  applications  that  require  accurate  semantic  interpretation.  Depending  on  applications,  certain  semantic  graphs  such  as  functional  programs  can  also  be  executable  for  direct  machine  processing,  paving  ways  for  interactive  and  efficient  human-machine  communication.  However,  the  complexity  of  the  structured  graphs  and  the  expensiveness  of  expert  data  annotation  pose  unique  challenges  in  automating  the  generation  process  of  these  graphs.In  this  thesis,  we  develop  techniques  using  machine  learning  models  to  generate  such  semantic  graphs  for  natural  language,  as  well  as  exploring  efficient  utilization  of  these  graphs  in  real  applications  such  as  dialogue  systems.  We  first  formulate  a  general  framework  for  text-to-graph  generation  with  an  autoregressive  process  through  a  carefully  designed  sequence  of  actions,  and  then  devise  a  principled  approach  that  combines  the  general  graph  construction  process  and  neural  models  such  as  sequence-to-sequence  Transformer  models  and  pointer  networks  with  synergy.  We  apply  the  proposed  method  to  interpret  natural  language  sentences  into  abstract  semantic  graphs,  where  the  end-to-end  deep  learning  model  is  guided  by  carefully  designed  logic-based  state  machines  that  manage  the  graph  and  action  transduction.  The  hybrid  approach  injects  an  effective  form  of  structured  inductive  bias  in  the  model  computation,  resulting  in  high-quality  graph  generation  without  complex  modeling  pipelines.  With  recent  advances  of  pre-trained  language  models  benefiting  from  large  amounts  of  unlabeled  data,  we  further  study  the  effective  way  of  merging  the  benefits  of  these  unstructured  models  with  structured  generation  of  semantic  graphs  to  increase  data  efficiency. Furthermore,  we  extend  our  text-to-graph  generation  framework  for  executable  semantic  graphs  that  are  programs  serving  as  essential  building  blocks  of  a  reliable  task-oriented  dialogue  system.  We  propose  a  novel  online  semantic  parsing  paradigm  which  aims  to  generate  and  execute  partial  semantic  graphs  simultaneously  as  the  sentence  is  being  revealed.  The  application  enables  real-time  interpretation  of  human  utterances  to  accelerate  machine  response,  making  human-machine  interaction  experience  more  natural.  We  hope  our  research  on  text-to-graph  generation  and  application  not  only  sheds  some  light  on  natural  language  understanding  and  reliable  semantic-aware  system  building,  but  also  creates  further  opportunities  for  interdisciplinary  research  beyond  NLP  where  symbolic  graph-structured  data  modeling  and  generation  are  of  vital  importance.
■590    ▼aSchool  code:  0084.
■650  4▼aComputer  science.
■650  4▼aLinguistics.
■650  4▼aInformation  science.
■653    ▼aDialogue  system
■653    ▼aGraph  generation
■653    ▼aNatural  language  processing  understanding
■653    ▼aOnline  semantic  parsing
■653    ▼aSemantic  graphs
■653    ▼aStructured  prediction
■690    ▼a0984
■690    ▼a0290
■690    ▼a0723
■71020▼aHarvard  University▼bEngineering  and  Applied  Sciences  -  Engineering  Sciences.
■7730  ▼tDissertations  Abstracts  International▼g84-12B.
■773    ▼tDissertation  Abstract  International
■790    ▼a0084
■791    ▼aPh.D.
■792    ▼a2023
■793    ▼aEnglish
■85640▼uhttp://www.riss.kr/pdu/ddodLink.do?id=T16932430▼nKERIS▼z이  자료의  원문은  한국교육학술정보원에서  제공합니다.
■980    ▼a202402▼f2024