008240612s2023      us  |||||||||||||||c||eng  d
■001000016934551
■00520240214101625
■006m          o    d                
■007cr#unu||||||||
■020    ▼a9798380470414
■035    ▼a(MiAaPQ)AAI30615158
■035    ▼a(MiAaPQ)STANFORDjp712rv6054
■040    ▼aMiAaPQ▼cMiAaPQ
■0820  ▼a629.13309
■1001  ▼aKatz,  Sydney  Michelle.
■24510▼aSafe  Machine  Learning-Based  Perception  Via  Closed-Loop  Analysis▼h[electronic  resource]
■260    ▼a[S.l.]:▼bStanford  University.  ▼c2023
■260  1▼aAnn  Arbor  :▼bProQuest  Dissertations  &  Theses,  ▼c2023
■300    ▼a1  online  resource(171  p.)
■500    ▼aSource:  Dissertations  Abstracts  International,  Volume:  85-04,  Section:  B.
■500    ▼aAdvisor:  Kochenderfer,  Mykel.
■5021  ▼aThesis  (Ph.D.)--Stanford  University,  2023.
■506    ▼aThis  item  must  not  be  sold  to  any  third  party  vendors.
■520    ▼aMachine  learning  has  the  potential  to  unlock  a  variety  of  new  capabilities  for  the  automation  of  safety-critical  systems.  For  example,  it  can  be  used  in  the  aviation  domain  to  automate  tasks  such  as  aircraft  taxiing  and  aircraft  collision  avoidance.  It  can  also  be  used  in  the  driving  domain  for  tasks  such  as  scene  recognition  and  lane  detection.  Because  these  systems  are  safety-critical,  their  automation  tends  to  be  heavily  regulated  and  requires  signifcant  validation  efort.  However,  machine  learning-based  systems  pose  new  challenges  in  safety  validation  due  to  their  complex  nature.  For  this  reason,  the  early  adoption  of  machine  learning  into  these  systems  will  likely  only  involve  tasks  that  cannot  be  solved  entirely  by  traditional  automation  techniques.  This  thesis  focuses  on  the  task  of  perception.Perception  systems  use  sensor  data  to  estimate  information  about  the  state  of  the  world  around  them.  To  increase  automation  to  the  point  where  human  operators  are  no  longer  required,  perception  systems  will  need  to  replace  visual  tasks  typically  performed  by  the  operator  by  processing  high-dimensional  sensor  data  from  cameras  or  lidar  units.  Machine  learning  techniques  are  well-suited  for  this  task,  but  they  add  complexity  to  the  safety  validation  process.  To  address  this  added  complexity,  the  contributions  of  this  thesis  focus  on  the  safe  design  and  formal  verifcation  of  machine  learning-based  perception  systems.  Each  contribution  makes  use  of  closed-loop  analysis,  which  allows  us  to  ensure  that  machine  learning  systems  meet  the  high-level  safety  requirements  of  the  systems  in  which  they  operate.Our  frst  two  contributions  relate  to  the  safe  design  of  machine  learning-based  perception  systems.  Specifcally,  we  develop  techniques  to  translate  high-level,  closed-loop  safety  properties  to  perception  system  design  requirements.  We  frst  propose  a  technique  for  risk-driven  design  of  perception  systems,  which  accounts  for  the  efect  of  perceptual  errors  on  the  performance  of  the  fully  integrated,  closedloop  system.  We  show  how  we  can  use  our  approach  during  perception  system  training  and  data  collection  to  design  safer  perception  systems.  Next,  we  develop  an  approach  to  efciently  determine  perception  system  performance  requirements  given  a  high-level  safety  property  and  a  black-box  simulator  of  the  closed-loop  system.  We  combine  elements  of  common  black-box  estimation  techniques  such  as  Gaussian  processes  and  multi-armed  bandits.  While  the  safe  design  methods  we  develop  encourage  safe  behavior  of  machine  learning  models,  they  do  not  provide  guarantees.  Once  designed,  the  perception  systems  should  still  be  put  through  additional  testing  and  safety  validation  using  techniques  such  as  formal  verifcation.Our  fnal  two  contributions  apply  to  the  formal  verifcation  of  machine  learningbased  perception  systems.  We  frst  develop  a  method  to  extend  existing  closed-loop  neural  network  verifcation  techniques  to  provide  probabilistic  safety  guarantees  on  systems  operating  in  stochastic  environments.  While  this  approach  does  not  apply  directly  to  perception  systems,  it  provides  a  foundation  for  our  fnal  contribution  related  to  the  verifcation  of  machine  learning-based  perception  systems.  In  particular,  we  develop  an  approach  to  extend  existing  state-based  neural  network  verifcation  techniques  to  work  with  image-based  neural  networks.  We  demonstrate  the  techniques  developed  in  this  thesis  on  the  realistic  examples  of  vision-based  taxi  navigation  and  vision-based  aircraft  collision  avoidance.
■590    ▼aSchool  code:  0212.
■650  4▼aAviation.
■650  4▼aDesign.
■650  4▼aCollisions.
■650  4▼aNeural  networks.
■690    ▼a0389
■690    ▼a0800
■71020▼aStanford  University.
■7730  ▼tDissertations  Abstracts  International▼g85-04B.
■773    ▼tDissertation  Abstract  International
■790    ▼a0212
■791    ▼aPh.D.
■792    ▼a2023
■793    ▼aEnglish
■85640▼uhttp://www.riss.kr/pdu/ddodLink.do?id=T16934551▼nKERIS▼z이  자료의  원문은  한국교육학술정보원에서  제공합니다.
■980    ▼a202402▼f2024