008240612s2023      us  |||||||||||||||c||eng  d
■001000016934637
■00520240214101636
■006m          o    d                
■007cr#unu||||||||
■020    ▼a9798380413855
■035    ▼a(MiAaPQ)AAI30631796
■040    ▼aMiAaPQ▼cMiAaPQ
■0820  ▼a004
■1001  ▼aSong,  Zhenyu.
■24510▼aOptimizing  Content  Distribution  Network  Caches  With  Machine  Learning▼h[electronic  resource]
■260    ▼a[S.l.]:▼bPrinceton  University.  ▼c2023
■260  1▼aAnn  Arbor  :▼bProQuest  Dissertations  &  Theses,  ▼c2023
■300    ▼a1  online  resource(112  p.)
■500    ▼aSource:  Dissertations  Abstracts  International,  Volume:  85-03,  Section:  B.
■500    ▼aAdvisor:  Lloyd,  Wyatt;Li,  Kai.
■5021  ▼aThesis  (Ph.D.)--Princeton  University,  2023.
■506    ▼aThis  item  must  not  be  sold  to  any  third  party  vendors.
■520    ▼aContent  Distribution  Networks  (CDNs)  play  a  pivotal  role  in  Internet  traffic.  A  key  part  of  this  caching  mechanism  is  the  eviction  algorithm  that  handles  the  replacement  of  old  cached  objects.  The  effectiveness  of  the  eviction  algorithm  significantly  influences  CDN  performance.This  dissertation  explores  the  application  of  machine  learning  (ML)  to  optimize  cache  eviction  algorithms  in  CDNs.  The  central  questions  addressed  in  this  work  are:  how  to  utilize  ML  to  devise  an  eviction  algorithm  that  surpasses  existing  heuristics  on  byte  miss  ratio,  and  how  to  mitigate  the  CPU  overhead  while  enhancing  the  robustness  of  a  learned  cache  in  large-scale  deployment.Two  major  challenges  faced  in  the  design  of  a  learning-based  cache  eviction  algorithm  include  heterogeneous  user  access  patterns  across  different  locations  and  times,  and  computational  and  space  overheads.  To  address  these  challenges,  we  developed  two  ML-based  eviction  algorithms,  Learning  Relaxed  Belady  (LRB)  and  Heuristic  Aided  Learned  Preference  (HALP).LRB  is  the  first  CDN  cache  algorithm  to  directly  approximate  the  Belady  MIN  (oracle)  algorithm  by  learning  access  patterns,  providing  a  significant  improvement  over  traditional  eviction  algorithms.  It  demonstrated  a  WAN  traffic  reduction  of  4-25\\%  across  six  production  CDN  traces  in  our  simulation.  HALP,  on  the  other  hand,  achieves  low  CPU  overhead  and  robust  DRAM  byte  miss  ratio  improvement  by  augmenting  a  heuristic  policy  with  ML.  It  has  shown  to  reduce  DRAM  byte  miss  during  peak  by  an  average  of  9.1\\%,  with  a  modest  CPU  overhead  of  1.8\\%,  while  deployed  in  YouTube  CDN  production  clusters.This  study  contributes  towards  using  machine  learning  to  develop  robust  cache  eviction  algorithms  with  low  miss  ratios  and  low  overheads,  thereby  enhancing  the  efficiency  of  CDNs.  The  findings  of  this  research  have  been  applied  in  industry  deployment  with  significant  production  impact.
■590    ▼aSchool  code:  0181.
■650  4▼aComputer  science.
■650  4▼aComputer  engineering.
■653    ▼aNetwork  caches
■653    ▼aLearning-based  cache  eviction  algorithm
■653    ▼aInternet  traffic
■653    ▼aMachine  learning
■690    ▼a0984
■690    ▼a0464
■690    ▼a0800
■71020▼aPrinceton  University▼bComputer  Science.
■7730  ▼tDissertations  Abstracts  International▼g85-03B.
■773    ▼tDissertation  Abstract  International
■790    ▼a0181
■791    ▼aPh.D.
■792    ▼a2023
■793    ▼aEnglish
■85640▼uhttp://www.riss.kr/pdu/ddodLink.do?id=T16934637▼nKERIS▼z이  자료의  원문은  한국교육학술정보원에서  제공합니다.
■980    ▼a202402▼f2024