statistical methods for data...
TRANSCRIPT
Statistical Methods for Data Mining
Kuangnan Fang
Xiamen University Email: [email protected]
February 14, 2016
Statistics in the news
How IBM built Watson, its Jeopardy-playingsupercomputer by Dawn Kawamoto DailyFinance02/08/2011
Learning from its mis-
takes According to DavidFerrucci (PI of WatsonDeepQA technology forIBM Research), Watson’ssoftware is wired for morethat handling natural lan-guage processing.
“It’s machine learning allows the computer to become smarteras it tries to answer questions — and to learn as it gets themright or wrong.”
2 / 29
Enlarge This Image
Thor Swift for The New York Times
Carrie Grimes, senior staff engineer at
Google, uses statistical analysis of
data to help improve the company's
search engine.
Multimedia
For Today’s Graduate, Just One Word: StatisticsBy STEVE LOHR
Published: August 5, 2009
MOUNTAIN VIEW, Calif. — At Harvard, Carrie Grimes majored in
anthropology and archaeology and ventured to places like Honduras,
where she studied Mayan settlement patterns by mapping where
artifacts were found. But she was drawn to what she calls “all the
computer and math stuff” that was part of the job.
“People think of field archaeology as
Indiana Jones, but much of what you
really do is data analysis,” she said.
Now Ms. Grimes does a different kind
of digging. She works at Google,
where she uses statistical analysis of mounds of data to
come up with ways to improve its search engine.
Ms. Grimes is an Internet-age statistician, one of many
who are changing the image of the profession as a place for
dronish number nerds. They are finding themselves
increasingly in demand — and even cool.
“I keep saying that the sexy job in the next 10 years will be
statisticians,” said Hal Varian, chief economist at Google.
“And I’m not kidding.”
Next Article in Technology (1 of 20) »
Subscribe to Technology RSS Feeds
SIGN IN TO
RECOMMEND
SIGN IN TO
REPRINTS
SHAREQuote of the Day,
New York Times,
August 5, 2009
”I keep saying that thesexy job in the next 10years will be statisticians.And I’m not kidding.”— HAL VARIAN, chiefeconomist at Google.
3 / 29
!!!
4 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
5 / 29
lpsa
−1 1 2 3 4
oo oooo ooo ooo ooooo oo o o oo oo ooo o ooo ooo ooo ooo oo ooo oo ooo oo o ooooo oo o oooo ooo o ooo o ooo oooo oooo ooo oo ooo
ooo o
o oo ooo oooo oooo oo ooo ooooo oo ooo o ooo oo ooo ooo ooooo oooo o oo oo oo o oo ooo oo ooo o ooo oo oo ooo oo o oooo oo oo ooooo oo
40 50 60 70 80
o o oooo ooo oooo oo o ooo oooo o oooooooo oo oo oo oo o ooo oo ooo oooo oo ooo oo oo oooo o oooo ooo oo o ooooo ooo oo oo ooo oo o oo
oooooo o oooo ooooo ooo oo oo o ooo ooo ooooo ooo oooo oo oo ooo oo oooo oo oo o ooo oo o o oo oo oo oo o oooo ooo o oo ooo oo oooo oo
0.0 0.4 0.8
oooooooooooooooooooooooooooooooooooooo oooooooo ooooooooooooooo oo ooooooo oo oooooo oooo ooo oo oooo oo
oooo
oooooooooooo oo oo o oooo oo ooo oo o ooooo oo oo oooo o ooo ooo ooo o ooo ooooo oo oo o ooo o oo o o o ooo ooo oo oo oo o oooo o oo
o o
6.0 7.0 8.0 9.0
oo oooooooooo oooo ooooo oo ooo ooooooooo o oooo ooo ooo oooo oo oooooo ooo o ooo oooo oooo oooooooooo oooo oooo oo
oooo
−11
23
4
oooo
o
o
oo
ooo
o
oooo
o
o
oooo
o
o
oooo
o
o
ooo
oo
ooo
o
oooo
oooo
ooooo
o
oo
oooooo
ooooooo
o
ooooo
oo
oooo
oooo
o
o
ooo
o
ooooooo
lcavolo oo
o
o
o
oo
oo o
o
oo oo
o
o
oo
oo
o
o
oo
oo
o
o
ooo
oo
ooo
o
oooo
oooo
ooo o
o
o
oo
ooo oo
o
oo
ooooo
o
oo
o oo
oo
ooo o
oo oo
o
o
ooo
o
oooo
o oo
o oo
o
o
o
oo
ooo
o
o oo o
o
o
oo
oo
o
o
oo
oo
o
o
ooo
o o
o oo
o
o oo
o
o ooo
oo
ooo
o
oo
ooo o
oo
oo
ooo
o o
o
oo
ooo
oo
oooo
oo oo
o
o
o oo
o
oo o
oo o
o
oooo
o
o
o o
ooo
o
oooo
o
o
oo
oo
o
o
oo
oo
o
o
ooo
oo
ooo
o
ooo
o
o ooo
oo
ooo
o
oo
ooooo
o
oo
oooo o
o
oo
ooo
o o
oooo
ooo o
o
o
ooo
o
ooo
oo o
o
oooo
o
o
oo
ooo
o
oooo
o
o
oooo
o
o
oooo
o
o
ooo
oo
ooo
o
oooo
oooo
ooooo
o
oo
oooooo
oo
ooooo
o
oo
o oo
oo
oo oo
oo oo
o
o
o oo
o
ooooooo
oooo
o
o
oo
ooo
o
oo oo
o
o
ooo
o
o
o
ooo
o
o
o
ooo
o o
o oo
o
ooo
o
oooo
oooo
o
o
oo
o ooooo
oooo
ooo
o
oo
o oo
o o
oo oo
ooo o
o
o
o oo
o
oo o
oooo
ooo
o
o
o
oo
ooo
o
oooo
o
o
ooo
o
o
o
oo
oo
o
o
ooo
oo
o oo
o
o oo
o
oooo
ooo oo
o
oo
ooo o
oo
oo
ooooo
o
oooo
o
oo
oooo
ooo o
o
o
o oo
o
ooooooo
o
o
o
o oooooooo
ooooooo
oooooo
o
oo
oo
oo
ooo
oo
o
o
oo
ooooo
oo
oooo
oo
o
o
o
ooo
o
ooooooooo
ooo
o
o
o
oo
oo
oooooooo
o
oooooooo
o
o
o
o ooooo
ooo
oooo
o oo
oo oo o
o
o
oo
oo
oo
ooo
oo
o
o
oo
oo ooo
oo
oooo
oo
o
o
o
ooo
o
o ooo
o oo
oo
ooo
o
o
o
o o
oo
ooooo o
oo
o
oo
ooo
oo o
lweighto
o
o
o oooooooo
o oo
ooo
o
oooo o
o
o
oo
oo
oo
oo o
oo
o
o
o o
ooooo
oo
o oo
o
oo
o
o
o
oo
o
o
o ooo
o o ooo
oo
o
o
o
o
o o
oo
oo
ooo ooo
o
oo
o ooo
oo
o
o
o
oooo oo
oo o
oooo
ooo
oo oo o
o
o
o o
oo
oo
ooo
oo
o
o
oo
o oooo
oo
o oo
o
oo
o
o
o
oo
o
o
ooo
oo o o
oo
oo
o
o
o
o
oo
oo
oo
o o ooo
o
o
oo
oooo
oo
o
o
o
ooooooooo
ooooooo
oooooo
o
oo
oo
oo
ooo
oo
o
o
oo
ooooo
oo
oooo
oo
o
o
o
ooo
o
ooo
oooooo
oo
o
o
o
o
oo
oo
oo
ooo oo
o
o
oo
oooooo
o
o
o
ooooooooo
ooo
oo o
o
oo oo oo
o
oo
oo
oo
oo o
oo
o
o
oo
o o ooo
oo
o ooo
oo
o
o
o
ooo
o
ooo
oo oo
oo
oo
o
o
o
o
oo
oo
oo
o oo oo
o
o
ooo o o
oo o
o
o
o
ooooooooo
ooo
ooo
o
oo oo oo
o
oo
oo
oo
ooo
oo
o
o
o o
oo ooo
oo
ooo
o
oo
o
o
o
ooo
o
o oo
oooo
oo
ooo
o
o
o
oo
oo
ooo ooo
oo
o
oo
oooooo
4050
6070
80
oo
o
oo
o
oo
o
ooooo
o
ooo
o
o
ooooooooooooo
o
oo
o
oo
ooooooo
o
o
o
ooooo
oo
oo
o
o
o
o
oooooooo
o
oo
o
oooo
ooo
o
o
oooooo
oooo
oo
oo
oo
o
oo
o
oo
o
ooo oo
o
oo
o
o
o
o ooo
o ooo o oooo
o
o o
o
oo
oo
oo o
oo
o
o
o
ooooo
oo
oo
o
o
o
o
ooooooo o
o
oo
o
oooo
ooo
o
o
oo
ooo o
oo
oo
oo
o o
oo
o
oo
o
oo
o
o oooo
o
ooo
o
o
oooooo ooo o oo
o
o
o o
o
oo
oo
ooo
oo
o
o
o
o oooo
oo
o o
o
o
o
o
ooo ooo o o
o
oo
o
oooo
ooo
o
o
oo
oo
o o
oo
oo
oo
oo
ageoo
o
oo
o
oo
o
oo ooo
o
oo
o
o
o
o ooo
ooo ooo ooo
o
o o
o
oo
ooo
ooo
o
o
o
o
oooo
o
oo
o o
o
o
o
o
ooo oooo o
o
oo
o
o ooo
oo o
o
o
oo
oo
oo
oo
oo
oo
oo
oo
o
oo
o
oo
o
ooooo
o
ooo
o
o
ooooooooooooo
o
oo
o
oo
ooooooo
o
o
o
ooooo
oo
oo
o
o
o
o
oooo
oooo
o
oo
o
oooo
ooo
o
o
oo
oo
oo
oo
oo
oo
oo
oo
o
oo
o
oo
o
ooo oo
o
oo
o
o
o
o ooo
oo oo o oooo
o
oo
o
oo
ooo
o oo
o
o
o
o
ooo o
o
oo
oo
o
o
o
o
ooo o
ooo o
o
oo
o
o oo
o
ooo
o
o
oo
oo
o o
ooo
o
oo
o o
oo
o
oo
o
oo
o
ooo oo
o
oo
o
o
o
o ooo
oo ooooooo
o
o o
o
oo
oo
oo o
oo
o
o
o
o oo o
o
oo
oo
o
o
o
o
ooo oooo o
o
oo
o
oooo
ooo
o
o
ooo
ooo
oo
oo
oo
oo
oooo oo
o
o
ooo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
o
o
oo
oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
oo
o
o
o
ooo
o
o
oo oo oo
o
o
o oo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
o
o
oo
o o
o
o
o
o
oo
o
o
o
oo o
o
o
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
o o
oo
o o
o
oo
o
o
o o
o
o
o
o oo
o
o
o oo ooo
o
o
oo o
o
oo oo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
o
o
oo
o o
o
o
o
o
oo
o
o
o
oo o
o
o
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
o o
o o
o
oo
o
o
o o
o
o
o
ooo
o
o
o o oo oo
o
o
o oo
o
o oo o
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
o o
o
o
o
oo
o o
o
o
o
o
oo
o
o
o
oo o
o
o
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
o o
oo
oo
o
oo
o
o
oo
o
o
o
oo o
o
o lbph
oooooo
o
o
ooo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
o
o
oo
oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
oo
o
o
o
ooo
o
o
oooooo
o
o
ooo
o
oo oo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
o o
o
o
o
oo
oo
o
o
o
o
oo
o
o
o
oo o
o
o
o
o
o
o
oo
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
oo
o o
o
oo
o
o
o o
o
o
o
o oo
o
o
oo oooo
o
o
ooo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
o
o
oo
oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
oo
o
o
o
ooo
o
o
0.0
0.4
0.8
oooo oooooooooooooooooooooooooooooooooo
o
ooooooo
o
oooooooooooooo
o
o
o
oooooo
o
o
oooo
oo
o
ooo
o
oo
o
o
ooo
o
oooooo
oo oo oo ooo ooo ooooo oo o o oo oo ooo o ooo ooo ooo
o
oo oo ooo
o
o ooo oo o ooooo oo
o
o
o
oo ooo o
o
o
o o oo
o o
o
oo o
o
oo
o
o
o oo
o
oo ooo o
o oo ooo oooo oooo oo ooo ooooo oo ooo o ooo oo ooo
o
oo ooooo
o
ooo o oo oo oo o oo o
o
o
o
o ooo o o
o
o
oo oo
oo
o
oo o
o
oo
o
o
o oo
o
oooo oo
o o oo oo ooo oooo oo o ooo oooo o oooooooo oo oo oo
o
o o ooo oo
o
oo oooo oo ooo oo o
o
o
o
oo o ooo
o
o
oo oo
o o
o
ooo
o
oo
o
o
oo o
o
o oo o oo
oooooo o oooo ooooo ooo oo oo o ooo ooo ooooo ooo
o
ooo oo oo
o
oo oo oooo oo oo o o
o
o
o
o o o oo o
o
o
o oo o
oo
o
o oo
o
o o
o
o
oo o
o
oooo oo
svioooooooooooo oo oo o oooo oo ooo oo o ooooo oo oo
o
ooo o ooo
o
oo ooo o ooo ooooo
o
o
o
o o ooo o
o
o
o o o o
oo
o
oo o
o
oo
o
o
o oo
o
o o ooo o
oo oooooooooo oooo ooooo oo ooo ooooooooo o oo
o
o ooo ooo
o
ooo oo oooooo ooo
o
o
o
o oooo o
o
o
o ooo
oo
o
ooo
o
oo
o
o
ooo
o
oooooo
oooo oooooooooo
o
oo
o
ooo
o
o
o
oooo
o
o
oooooo
o
o
o
o
oo
o
o
o
o
o
o
oooo
o
o
oo
o
oooo
ooo
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
oooo
o
oo oo oo ooo ooooo
o
oo
o
o o o
o
o
o
o oo
o
o
o
oo ooo
o
o
o
o
o
o o
o
o
o
o
o
o
ooo o
o
o
oo
o
oo oo
o oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
ooo
o
o
o oo ooo oooo oooo
o
oo
o
o oo
o
o
o
oooo
o
o
ooo o
oo
o
o
o
o
o o
o
o
o
o
o
o
oo
o o
o
o
o o
o
o oo o
ooo
o
o
o
o
oo
o
o
o
oo
o
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
oooo
o
o o oo oo ooo ooooo
o
oo
o
o oo
o
o
o
oooo
o
o
oo oooo
o
o
o
o
o o
o
o
o
o
o
o
oooo
o
o
o o
o
o oo o
o oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
oo o
o
o
oooooo o oooo ooo
o
oo
o
o oo
o
o
o
ooo
o
o
o
oooo
oo
o
o
o
o
oo
o
o
o
o
o
o
oo
o o
o
o
o o
o
oo o o
ooo
o
o
o
o
oo
o
o
o
oo
o
o
o
o
o o
o
o
o
o
o
o
o
o
o
o o
ooo
o
o
oooooooooooooo
o
oo
o
ooo
o
o
o
oooo
o
o
oooooo
o
o
o
o
oo
o
o
o
o
o
o
oooo
o
o
oo
o
oooo
ooo
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o o
oooo
o
lcp
oo oooooooooooo
o
oo
o
ooo
o
o
o
oooo
o
o
ooooo
o
o
o
o
o
oo
o
o
o
o
o
o
oo
oo
o
o
oo
o
o ooo
o oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o o
oooo
o
6.0
7.0
8.0
9.0
oo
o
o oooooooo
ooo
o
o
oooo
o
o
o
oo
ooo
oooooo
o
o
ooo
o
o
o
ooo
o
o
oo
o
o
ooooo
o
oo
o
o
o
o
o
ooo
o
oooo
o
ooooooooo
o
oo
o
ooo
o
oooooo
oo
o
o oo ooo ooo
ooo
o
o
oo o o
o
o
o
o o
oo o
ooo ooo
o
o
o oo
o
o
o
ooo
o
o
oo
o
o
o o ooo
o
o o
o
o
o
o
o
o oo
o
o ooo
o
ooo oooo oo
o
o o
o
o oo
o
oo ooo o
o o
o
ooo oooo oo
oo o
o
o
oo oo
o
o
o
oo
ooo
o ooo oo
o
o
o oo
o
o
o
ooo
o
o
oo
o
o
o oo oo
o
oo
o
o
o
o
o
ooo
o
ooo o
o
oo ooo oo o o
o
oo
o
o oo
o
oooo oo
o o
o
o oo ooo ooo
o oo
o
o
oo oo
o
o
o
oo
ooo
ooo oo o
o
o
o oo
o
o
o
o oo
o
o
o o
o
o
o oo oo
o
oo
o
o
o
o
o
o o o
o
oo oo
o
oo o ooooo o
o
o o
o
oo o
o
o oo o oo
oo
o
ooo o oooo o
ooo
o
o
oo oo
o
o
o
oo
o oo
o ooooo
o
o
o oo
o
o
o
o oo
o
o
o o
o
o
ooo oo
o
o o
o
o
o
o
o
o o o
o
oo oo
o
o o oooo ooo
o
oo
o
oo o
o
oooo oo
oo
o
ooooooooo
ooo
o
o
oooo
o
o
o
oo
ooo
oooooo
o
o
o oo
o
o
o
ooo
o
o
oo
o
o
ooooo
o
oo
o
o
o
o
o
ooo
o
o oo o
o
oooo oooo o
o
o o
o
ooo
o
oooooo
oo
o
ooooooooo
oo o
o
o
oooo
o
o
o
oo
oo o
ooooo o
o
o
o oo
o
o
o
ooo
o
o
o o
o
o
o ooo o
o
oo
o
o
o
o
o
o oo
o
o oo o
o
o ooo ooo oo
o
o o
o
o oo
o
o o ooo ogleason
0 1 2 3 4 5
oooo oooooooo
o
ooo
o
oooooo
o
oo
o
o
o
oooooooooo
o
o
ooooo
o
o
oo
o
o
o
o
oooooo
o
o
o
o
oo
o
ooo
o
oo
o
o
oo
o
oooo
o
o
o
o
o
o
oo
oo
oo
o
o
oooo
o oo ooo ooo
o
ooo
o
oo o oo
o
o
o o
o
o
o
ooo ooo ooo
o
o
o
oo o
oo
o
o
oo
o
o
o
o
oooo
oo
o
o
o
o
oo
o
oo o
o
oo
o
o
oo
o
oo
oo
o
o
o
o
o
o
oo
oo
oo
o
o
o
2.5 3.5 4.5
o oo
ooo oooo oo
o
o oo
o
oo oooo
o
oo
o
o
o
o ooo oo ooo
o
o
o
ooo
oo
o
o
oo
o
o
o
o
oo
o oo
o
o
o
o
o
oo
o
oo o
o
o o
o
o
oo
o
oo
oo
o
o
o
o
o
o
oo
oo
oo
o
o
oo o
oo oo ooo ooo
o
oo o
o
oo oooo
o
oo
o
o
o
ooo oo oooo
o
o
o
ooooo
o
o
o o
o
o
o
o
oo
ooo
o
o
o
o
o
oo
o
ooo
o
oo
o
o
oo
o
ooo
o
o
o
o
o
o
o
oo
oo
oo
o
o
o
−1 0 1 2
oooooo o oooo o
o
ooo
o
oo ooo
o
o
oo
o
o
o
o ooooo ooo
o
o
o
ooooo
o
o
o o
o
o
o
o
oo
o oo
o
o
o
o
o
oo
o
oo o
o
oo
o
o
oo
o
oo
oo
o
o
o
o
o
o
oo
oo
oo
o
o
ooooooooooooo
o
ooo
o
oooooo
o
oo
o
o
o
ooooooooo
o
o
o
ooooo
o
o
oo
o
o
o
o
oooooo
o
o
o
o
oo
o
ooo
o
o o
o
o
oo
o
oooo
o
o
o
o
o
o
oo
oo
oo
o
o
o
−1 0 1 2 3
oooooooooooo
o
o oo
o
ooooo
o
o
oo
o
o
o
ooooo ooooo
o
o
oo ooo
o
o
o o
o
o
o
o
oo
oooo
o
o
o
o
oo
o
oo o
o
o o
o
o
oo
o
ooo
o
o
o
o
o
o
o
oo
oo
oo
o
o
ooo
oooooooooo
o
ooo
o
ooooo
o
o
oo
o
o
o
oooooo ooo
o
o
o
oo o
oo
o
o
oo
o
o
o
o
oooooo
o
o
o
o
oo
o
oo o
o
oo
o
o
oo
o
oooo
o
o
o
o
o
o
oo
oo
oo
o
o
o
6 / 29
lpsa
-1 1 3
oooooo ooo ooo ooooo oo o o oo oo ooo o ooo ooo ooo ooo oo ooo oo ooo oo o ooooooo o oooo ooo o ooo o ooooooo oooo ooo oo ooo
ooo o
o oo ooooooooooo oo ooo ooooooo oooo o oooo ooo ooo ooooo oooo ooo oo oo o oo oooooooooooo oo oo oooooo oooooo oo ooooooo
40 60 80
o o oooo ooo oooooo oooo ooooo oooooooo oo oo ooooo ooo oo ooo oooooo ooo oo oo oooo ooooo ooo ooo ooooo ooooooo ooo oo o oo
oooooo o oooo ooooo ooo oo oo o ooo ooo ooooo ooo oooo oo oo ooo oo oooo oo oo o ooo oo o o oo oo oo oo o oooo ooo o oo ooo oo oooo oo
0.0 0.4 0.8
oooooooooooooooooooooooooooooooooooooo oooooooo ooooooooooooooo oo ooooooo oo oooooo oooo ooo oo oooo ooo
ooo
oooooooooooo oo oo o oooo oo ooo oo o ooooo oo oo oooo o ooo ooo ooo o ooo ooooo oo oo o ooo o oo o o o ooo ooo oo oo oo o oooo o oo
o o6.0 7.5 9.0
oo oooooooooo oooo ooooo oo ooo ooooooooo o oooo ooo ooo oooo oo oooooo ooo o ooo oooo oooo oooooooooo oooo oooo ooo
ooo
012345
oo oooooooooo oooo ooooo oo ooo oo oooooooooo oo oooo oo oooo oo oooooo o oo o ooo o oooo ooo oo ooo ooo oo oo oo o o oo o ooo oo
-10
12
34
oooo
o
o
oo
ooo
o
oooo
o
o
oooo
o
o
oooo
o
o
ooooo
ooo
o
oooooooo
oooooo
oo
oooooo
ooooooo
o
ooooooooooo
ooooo
o
oooo
ooooooo
lcavolo ooo
o
o
oo
ooo
o
oo oo
o
o
oo
oo
o
o
oooo
o
o
o oooo
ooo
o
oooooooo
ooo oo
o
oo
ooo ooo
ooooooo
o
ooo oooooooo
oo ooo
o
ooo
o
oooo
ooo
o o oo
o
o
oo
ooo
o
ooo o
o
o
oo
oo
o
o
oooo
o
o
ooo
o o
o oo
o
ooo
oo oo
o
oo
oooo
oo
ooo oo
o
oo
ooooo
o
oo
ooo
oooooo
oo ooo
o
ooo
o
oo o
oo o
o
oooo
o
o
o o
ooo
o
oooo
o
o
oo
oo
o
o
oo
oo
o
o
ooo
oo
ooo
o
ooo
oo oo
o
oo
ooo
o
oo
oooo o
o
oo
oooo o
o
oo
ooo
o ooooo
ooo o
o
o
ooo
o
ooo
oo o
o
oooo
o
o
oo
ooo
o
oooo
o
o
oooo
o
o
oooo
o
o
ooooo
ooo
o
ooooooo
o
oooooo
oo
oooooo
oo
ooooo
o
oo
o oooo
oo oo
oo ooo
o
o ooo
ooooooo
oooo
o
o
oo
ooo
o
oo oo
o
o
ooo
o
o
o
ooo
o
o
o
oooo o
o oo
o
ooo
oooo
o
oooo
oo
oo
o ooooo
oooo
ooo
o
oo
o ooo o
oo oo
ooo o
o
o
o oo
o
oo o
oooo
oo oo
o
o
oo
ooo
o
oooo
o
o
ooo
o
o
o
oo
oo
o
o
ooooo
o oo
o
o oo
oooo
o
ooo oo
o
oo
ooo ooo
oo
ooooo
o
oooo
ooooooo
ooo oo
o
o ooo
ooooooo
oo oo
o
o
oo
ooo
o
oooo
o
o
ooo
o
o
o
oo
oo
o
o
ooooo
ooo
o
o oo
oo oo
o
ooo oo
o
oo
ooo o oo
oo
ooo
oo
o
oo
ooo
o oo
o oo
ooo o
o
o
o ooo
oo o
oo oo
oooooooooo
ooooooooooooooooooooo
o
ooooo
o
o
ooooooooooooooooo
oooooooooooooo
oooooo
oooooooooooo
o
oooooo
oo
ooo
o oo ooo ooooooo
o oooo oo ooo
ooo o
o
o
ooooo
o
o
oooo ooo
oooo
o oo
oo
o
ooooo
o oooo ooo o
oooo
oo
oooo
ooooo ooo
o
oo
oo ooo o
lweight
oo
oooo ooo oooooo
ooooo
oooo ooooooo
o
oo oo
o
o
o
ooooooo
ooo o
oooo
oo
oo
ooo
o oooo oooo
o oo
ooo
o oooo
ooooooo
o
oo
o ooo
oo
oooooo o oooo ooooo
ooo
oo oo o o
oo o
ooo
o
oooo
o
o
o
ooo oo
oooo
o oo o
oo
oo
oo
o oo
oooo o o o
o o
o oo
oo
o
oooo
oo
o o oo oo
o
oo
oooo
oo
ooooooooooooooooooooooooooooooo
o
ooooo
o
o
ooooooo
oooooooooo
ooooo
oooooo
ooo
oooooo
oooo
oo
ooo oo o
o
oo
oooooo
ooooooooooooooo
oo o
ooo oo ooooo
o oo
o
oo oo
o
o
o
ooo o o
oooo
o ooo
oo
oo
ooooo
oooo o ooo o
ooo
ooo
oooo
oo
o oo oo o
o
ooo o o
oo o
oo
oooooooooo
ooo
ooo
ooo oo ooo
oooo
o
o
oooo
o
o
o
o ooo ooo
oooo
oooooo
oo
ooo
o ooo ooo
o o
ooo
ooo
ooooooo oooo o
o
oo
oooooo
34
56
oo
oooooooooo
oooo
ooooo oo ooo
oooo
o
o
ooooo
o
o
o oooo oo
oooo
ooo
ooo
oo
o oo
o ooo o ooo
o
ooo
oo
o
oooo
oo
o oo oo o
o
ooo ooo
oo
4050
6070
80
oo
o
oo
o
oo
o
ooooo
oooo
o
o
ooooooooooooo
oooooo
ooooooo
o
o
o
ooooooo
oo
oo
o
ooooooooo
o
ooooooooooo
o
oooooo
oooo
oo
oo
oo
o
oo
o
oo
o
ooo oo
oo
oo
o
o
o ooo
o ooo o oooo
oo o
oo
o
ooo
o ooo
o
o
o
ooooo
oo
oo
oo
o
oo
oooooo o
o
ooo
oooooooo
o
oo
ooo o
oo
oo
oo
o o
oo
o
oo
o
oo
o
ooooo
oooo
o
o
oooooo oooo o o
o
oo oo
oo
ooooo
oo
o
o
o
o oooo
oo
o o
oo
o
ooooooooo
o
oo
ooooo
oooo
o
ooooo o
oo
oo
oo
ooage
oo
o
oo
o
oo
o
oo ooo
oo
oo
o
o
o ooo
ooo ooo ooo
oo o
oo
o
ooo
ooo
o
o
o
o
ooooo
oo
o o
oo
o
oo
oo oooo o
o
oo
oo o
oo
oo o
o
o
oo
oo
oo
oo
oo
oo
oo
oo
o
oo
o
oo
o
ooooo
oooo
o
o
ooooooooooooo
ooooo
o
ooooooo
o
o
o
ooooooo
oo
oo
o
oo
ooooooo
o
ooooo
oo
oooo
o
oo
oo
oo
oo
oo
oo
oo
oo
o
oo
o
oo
o
ooo oo
ooo
o
o
o
o ooo
oo oo o oooo
ooo
oo
o
ooo
o oo
o
o
o
o
ooo o
ooo
oo
oo
o
oooo o
ooo o
o
oo
oo o
oo
ooo
o
o
oo
oo
o o
ooo
o
oo
o o
oo
o
oo
o
oo
o
ooo oo
oo
oo
o
o
o ooo
oo ooooooo
oo o
ooo
oo
oo o
oo
o
o
o
o oo o
ooo
oo
oo
o
oo
oo oooo o
o
oo
ooooooooo
o
ooo
ooo
oo
oo
oo
oo
oo
o
oo
o
oo
o
ooo oo
oo
oo
o
o
o ooo
oo oo ooooo
ooooo
o
oo
ooo
oo
o
o
o
o oo o
ooo
oo
oo
o
oo
oo oo
ooo
o
oo
oo o
oo
oooo
o
oo
oo
o o
ooo
o
oo
oo
oooooo
o
o
ooo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
oo
oo
oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
oo
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
oo
o
o
o
ooo
o
o
oooo oo
o
o
o oo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
oo
oo
o o
o
o
o
o
oo
o
o
o
oo o
o
o
o
o
oo
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
o o
o
oo
o
o
o o
o
o
o
o oo
o
o
o oo ooo
o
o
ooo
o
oo oo
o
oo
o
o
o
o
o
o
o
o
o
o
o
o oo
oo
o
oo
oo
o o
o
o
o
o
oo
o
o
o
oo o
o
o
o
o
oo
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
o o
o
o
o
ooo
o
o
o o oooo
o
o
o oo
o
ooo o
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
o o
o
oo
oo
o o
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
oo
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
o o
oo
oo
o
oo
o
o
oo
o
o
o
oo o
o
o lbph
oooooo
o
o
ooo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
oo
oo
oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
oo
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
oo
o
o
o
ooo
o
o
oooooo
o
o
ooo
o
oo oo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
o o
o
oo
oo
oo
o
o
o
o
oo
o
o
o
oo o
o
o
o
o
oo
oo
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
oo
o o
o
oo
o
o
o o
o
o
o
o oo
o
o
oo oooo
o
o
ooo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
oo
oo
oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
oo
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
oo
o
o
o
ooo
o
o
-10
12
oo oooo
o
o
ooo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
oo
oo
oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
oo
oo
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
oo
o o
o
oo
o
o
o o
o
o
o
ooo
o
o
0.0
0.4
0.8
oooooooooooooooooooooooooooooooooooooo
o
ooooooo
o
oooooooooooooo
o
o
o
oooooo
o
o
oooo
oo
o
ooo
o
oo
o
o
ooo
o
oooooo
oooo oo ooo ooo ooooo oo o o oo oo ooo o ooo ooo ooo
o
oo oo ooo
o
o ooo oo o ooooooo
o
o
o
oo ooo o
o
o
o o oo
oo
o
oo o
o
oo
o
o
o oo
o
oo ooo o
o oo ooooooooooo oo ooo ooooooo oooo o oooo ooo
o
oo ooooo
o
ooo ooo oo oo o oo o
o
o
o
oooooo
o
o
oo oo
oo
o
ooo
o
oo
o
o
o oo
o
oooooo
o o oooo ooo oooooo oooo ooooo oooooooo oo oo oo
o
oo ooo oo
o
oo oooooo ooo oo o
o
o
o
oo oooo
o
o
oo oo
o o
o
ooo
o
oo
o
o
oo o
o
o oo o oo
oooooo o oooo ooooo ooo oo oo o ooo ooo ooooo ooo
o
ooo oo oo
o
oo oo oooo oo oo o o
o
o
o
o o o oo o
o
o
o oo o
oo
o
o oo
o
o o
o
o
oo o
o
oooo oo
svi
oooooooooooo oo oo o oooo oo ooo oo o ooooo oo oo
o
ooo o ooo
o
oo ooo o ooo ooooo
o
o
o
o o ooo o
o
o
o o o o
oo
o
oo o
o
oo
o
o
o oo
o
o o ooo o
oo oooooooooo oooo ooooo oo ooo ooooooooo o oo
o
o ooo ooo
o
ooo oo oooooo ooo
o
o
o
o oooo o
o
o
o ooo
oo
o
ooo
o
oo
o
o
ooo
o
oooooo
oo oooooooooo oooo ooooo oo ooo oo oooooooooo
o
o oooo oo
o
ooo oo oooooo o oo
o
o
o
o o oooo
o
o
o oo o
oo
o
oo o
o
oo
o
o
o o o
o
o ooo oo
oooooooooooooooooo
ooo
o
o
o
oooo
o
o
oooooo
o
o
o
o
ooo
o
oo
o
ooooo
o
o
oo
o
oooo
ooo
oo
o
ooo
o
o
oooo
o
o
o
oo
o
o
oo
o
o
o
o
o
oo
oooo
o
oooo oo ooo ooooooo
oo
o o o
o
o
o
o oo
o
o
o
oo ooo
o
o
o
o
o
o oo
o
oo
o
oo
oo o
o
o
oo
o
oooo
o oo
oo
o
oo
o
o
o
oo
oo
o
o
o
oo
o
o
oo
o
o
o
o
o
oo
ooo
o
o
o oo oooooooooooo
ooo
o oo
o
o
o
oooo
o
o
oooo
oo
o
o
o
o
o oo
o
oo
o
ooooo
o
o
o o
o
o oo o
ooo
oo
o
ooo
o
o
ooo
o
o
o
o
oo
o
o
oo
o
o
o
o
o
oo
oooo
o
o o oooo ooo ooooo
ooo
o
o oo
o
o
o
oooo
o
o
oo oooo
o
o
o
o
o oo
o
oo
o
oo
ooo
o
o
o o
o
o oo o
o oo
oo
o
ooo
o
o
oo
oo
o
o
o
oo
o
o
oo
o
o
o
o
o
oo
oo o
o
o
oooooo o oooo ooooo
oo
o oo
o
o
o
ooo
o
o
o
oooo
oo
o
o
o
o
ooo
o
oo
o
oo
oo o
o
o
o o
o
oo o o
ooo
oo
o
oo
o
o
o
oo
oo
o
o
o
o o
o
o
oo
o
o
o
o
o
o o
ooo
o
o
oooooooooooooooooo
ooo
o
o
o
oooo
o
o
oooooo
o
o
o
o
ooo
o
oo
o
ooooo
o
o
oo
o
oooo
ooo
oo
o
ooo
o
o
oooo
o
o
o
oo
o
o
oo
o
o
o
o
o
o o
oooo
o
lcp
oo ooooooooooooo
oo
o
ooo
o
o
o
oooo
o
o
ooooo
o
o
o
o
o
ooo
o
oo
o
ooo
oo
o
o
oo
o
o ooo
o oo
oo
o
oo
o
o
o
oo
oo
o
o
o
oo
o
o
oo
o
o
o
o
o
o o
oooo
o
-10
12
3
oo ooooooooooo
ooo
oo
ooo
o
o
o
ooo
o
o
o
oooooo
o
o
o
o
ooo
o
oo
o
ooo
oo
o
o
oo
o
o o oo
o oo
oo
o
ooo
o
o
oo
oo
o
o
o
oo
o
o
oo
o
o
o
o
o
o o
ooo
o
o
6.0
7.0
8.0
9.0
oo
o
ooooooooo
ooo
o
o
oooo
o
o
o
oo
ooo
oooooo
o
o
ooo
o
o
o
ooo
o
o
oo
o
o
ooooo
o
oo
o
o
o
o
o
ooo
o
oooo
o
ooooooooo
o
oo
o
ooo
o
oooooo
oo
o
o oo ooo ooo
ooo
o
o
oo o o
o
o
o
o o
oo o
ooo ooo
o
o
o oo
o
o
o
ooo
o
o
oo
o
o
o o ooo
o
oo
o
o
o
o
o
o oo
o
o ooo
o
ooooooo oo
o
o o
o
o oo
o
oo ooo o
o o
o
ooooooooo
oo o
o
o
oo oo
o
o
o
oo
ooo
o o oooo
o
o
o oo
o
o
o
ooo
o
o
oo
o
o
o oo oo
o
oo
o
o
o
o
o
ooo
o
ooo o
o
oo oooooo o
o
oo
o
o oo
o
oooooo
o o
o
ooo ooo ooo
ooo
o
o
oo oo
o
o
o
oo
ooo
ooo oo o
o
o
ooo
o
o
o
o oo
o
o
o o
o
o
ooo oo
o
oo
o
o
o
o
o
o oo
o
oo oo
o
ooo ooooo o
o
oo
o
oo o
o
o oo o oo
oo
o
ooo o oooo o
ooo
o
o
oo oo
o
o
o
oo
o oo
o ooooo
o
o
o oo
o
o
o
o oo
o
o
o o
o
o
ooo oo
o
o o
o
o
o
o
o
o o o
o
oo oo
o
o o oooo ooo
o
oo
o
oo o
o
oooo oo
oo
o
ooooooooo
ooo
o
o
oooo
o
o
o
oo
ooo
oooooo
o
o
o oo
o
o
o
ooo
o
o
oo
o
o
ooooo
o
oo
o
o
o
o
o
ooo
o
o oo o
o
oooo oooo o
o
o o
o
ooo
o
oooooo
oo
o
ooooooooo
oo o
o
o
oooo
o
o
o
oo
oo o
ooooo o
o
o
o oo
o
o
o
ooo
o
o
o o
o
o
o ooo o
o
oo
o
o
o
o
o
o oo
o
o oo o
o
o ooo ooo oo
o
o o
o
o oo
o
o o ooo ogleason
oo
o
ooooooooo
ooo
o
o
oooo
o
o
o
oo
oo o
oooooo
o
o
o oo
o
o
o
o oo
o
o
oo
o
o
ooooo
o
o o
o
o
o
o
o
o oo
o
o ooo
o
o ooo ooo oo
o
o o
o
o o o
o
o ooo oo
0 2 4oooooooooooo
o
ooo
o
oooooo
o
oo
o
o
o
oooooooooo
o
o
ooooo
o
o
oo
o
o
o
o
oooooo
o
o
o
o
oo
o
ooo
o
oo
o
o
oo
o
oooo
o
o
o
o
o
o
oo
oo
oo
o
o
oooo
o oo ooo ooo
o
ooo
o
oo o oo
o
o
o o
o
o
o
ooo ooo ooo
o
o
o
oo ooo
o
o
oo
o
o
o
o
oooooo
o
o
o
o
oo
o
oo o
o
oo
o
o
oo
o
oooo
o
o
o
o
o
o
oo
oo
oo
o
o
o
3 4 5 6o ooooooooooo
o
o oo
o
oo oooo
o
oo
o
o
o
o o oooo oooo
o
o
ooo
oo
o
o
oo
o
o
o
o
oo
o ooo
o
o
o
o
oo
o
ooo
o
o o
o
o
oo
o
oooo
o
o
o
o
o
o
oo
oo
oo
o
o
oo o
oooo ooo ooo
o
oo o
o
oo oooo
o
oo
o
o
o
ooo oo oooo
o
o
o
ooooo
o
o
o o
o
o
o
o
oo
ooo
o
o
o
o
o
oo
o
ooo
o
oo
o
o
oo
o
ooo
o
o
o
o
o
o
o
oo
oo
oo
o
o
o
-1 0 1 2oooooo o oooo o
o
ooo
o
oo ooo
o
o
oo
o
o
o
o ooooo ooo
o
o
o
ooooo
o
o
o o
o
o
o
o
oo
o oo
o
o
o
o
o
oo
o
oo o
o
oo
o
o
oo
o
oo o
o
o
o
o
o
o
o
oo
oo
oo
o
o
ooooooooooooo
o
ooo
o
oooooo
o
oo
o
o
o
ooooooooo
o
o
o
ooooo
o
o
oo
o
o
o
o
oooooo
o
o
o
o
oo
o
ooo
o
o o
o
o
oo
o
oooo
o
o
o
o
o
o
oo
oo
oo
o
o
o
-1 1 2 3oooooooooooo
o
o oo
o
ooooo
o
o
oo
o
o
o
ooooo ooooo
o
o
oo ooo
o
o
o o
o
o
o
o
oo
oooo
o
o
o
o
oo
o
oo o
o
o o
o
o
oo
o
ooo
o
o
o
o
o
o
o
oo
oo
oo
o
o
ooo
oooooooooo
o
ooo
o
ooooo
o
o
oo
o
o
o
oooooo ooo
o
o
o
oo o
oo
o
o
oo
o
o
o
o
oooooo
o
o
o
o
oo
o
oo o
o
oo
o
o
oo
o
oooo
o
o
o
o
o
o
oo
oo
oo
o
o
o
0 40 80
020
60100
pgg45
7 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
8 / 29
Frequency
Log-
perio
dogr
am
0 50 100 150 200 250
05
1015
2025
Phoneme Examples
aaao
Frequency
Logi
stic
Reg
ress
ion
Coe
ffici
ents
0 50 100 150 200 250
-0.4
-0.2
0.0
0.2
0.4
Phoneme Classification: Raw and Restricted Logistic Regression
9 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
10 / 29
sbp
0 10 20 30
ooo
o
ooooo
o
o
ooo
oo ooo
oo
ooo ooo
ooooo
ooo
oo
oo ooooo
oo
o
oooooo
ooo
o ooooo
ooo ooo oooo ooooooo
oooo o
oo oooooooo
o
oooo
oo
o
ooo
o
o
o
ooo
o
o
o
ooo
oooooooo
ooo o
oooo ooooooo
o
oooo
o
ooo
oooo
oooo
o
oo
o
o
ooo o
o
o
o
o
o
oo
o
o ooooo
oooo
ooo
oooooo
oooo
oooo oooo
oo
oooooooo
oo
oo
o
ooo ooo
ooo
o
oooo
o oo
o
oooo
o
ooo
ooo
o
o
o
ooo
ooo o
o
oooo o
ooo
oooooo
oo
o
oooo
o
o
o oooooooo
oo
oooo o
o
oo
o
oooo
ooo
o
o
ooo
ooo
o
oo o
ooo
oooo
oo
oooo
o
oooooo
ooo
o
ooo
o
oo
o
oooo ooo
ooo
o oooooo ooo o
oooooo
o
ooo o
oo oo
o
ooo o
ooo
o
oo oo
o
o
o
o
oo
oo
oo o
o
oo
oo
oo o
oo
o
oooo
oooooooooooooo
o
oooooooo
o
oooo
o
o
o
ooo
ooo
o
o oo
ooo
o
ooooo o
oo
ooo
ooo
ooooooo
ooo
oo
oo o
oo
oooo
o
oo o ooo
oo o
oooo
o oooooo
o ooooo ooo oo
o
ooo oo
oooooooooo
o
ooo o
oo
o
ooo
o
o
o
oo o
o
o
o
ooo
ooo ooooo
ooo ooooo oo
ooooo
o
oooo
oo
oooo
oooo
oo
o
ooo
o
ooooo
o
o
o
o
o o
oo ooo oo
ooo
o
oo
oooo
o oo
oooo
o ooo oooo
oo
ooo ooo
ooo
o
oo
o
o
oooo
o
ooo
o
oooo
ooo
o
oooo
o
ooo o
o o
o
oo
oo
o ooo oo
ooooo
o ooo
ooooo
oo
o
oooo
o
o
o oooo oooo
oo
oooo o
oo o
o
oooo
ooo
o
o
oo
o
o
o o
oooooooo
ooo
ooo oo oo
o oo
o oo
ooo
o
oo o
o
oo
o
o ooo ooooo
oo ooo
o oo oooo
oooooo
oo ooo
oo ooo
oo
oo
ooo
o
oooo
oo
o
o
oo
oo
oo o
o
ooo
o
ooo
ooo
oo ooooooo
oooo ooo
oo
o
ooo oo oo
oo
o
oo
o
o
o
o
o oo
0.0 0.4 0.8
oo
o
o
ooo
ooo
o
ooo
ooooo
oo
oo
oooo
o oooo
ooooo
oooo
oo ooo
o
ooo ooo
ooo
ooo
oo o
ooo ooo ooooo oooo
o
o
ooo oo
ooo ooooo
oo
o
o ooo
oo
o
ooo
o
o
o
ooo
o
o
o
o ooo ooooooo
oo
oooo
oooo oooo o
o
oooo
ooooo
oooo
oo
o
o
ooo
o
ooooo
o
o
oo
oo
o
oooooo
oooo
oo
oo ooo
oo
oo oo
o ooo
ooo o
o o
oo oo oooooo
oo
o
oo
o ooo
oo o
o
ooooooo
o
ooo
o
o
ooo ooo
o
o
o
oooooooo
o oooooo
ooooo o
o
oo
o
oooo
o
o
oo
ooooooo
oo
ooooo
ooo
o
oo oo
oo o
o
o
ooo
o
oo
oo ooo
ooo
ooo
oooo
ooo
oo ooo o
ooo
o
oo oo
oo
o
ooooo o
oooooo
oo
ooo o
oo oo
oo oo
o
o
oooo
ooooo
oo
oo
ooo
o
oooo
oo
o
o
oo
oo
ooo
o
ooo
o
ooo
ooo
oo oooooo
oo oo ooooo o
o
oo oooooo
o
o
ooo
o
o
o
oo o
ooo
o
o oo
ooo
o
oooooo
oo
oooooo
o oo oooo
ooo
oo
ooo
ooo o
oo
o
oooooo
ooo
ooooooooo o oo oooooo oo oo
o
ooooo
o ooo
o oo oo
o
o
o ooo
oo
o
ooo
o
o
o
oo o
o
o
o
ooo
oooooo
oo
oo
oooo
oo oooo
oo o
o
o o oo
oo
oooooooooo
o
ooo
o
ooooo
o
o
oo
oo
o
o ooo oo
oo
oo
ooo
oooo
oo
ooo o
ooooo ooo
oo
oo oo
ooooo
o
oo
o
oo
oooo
ooo
o
oooo
ooo
o
oooo
o
oooooo
o
o
o
oooo
oooo
o ooooooo
oo o ooo
oo
o
oo oo
o
o
oo
o oooooo
oo
oooo o
o
o o
o
oo oo
o o o
o
o
oo
o
o
oo
oooooooooo
o
oooo
ooo
oooooo
ooo
o
oo o
o
oo
o
ooo o ooooo
ooooo
oooo
o ooo
ooo o
o
ooo
o o
oo ooo
oo
o o
ooo
o
ooo o
o
o
o
o
oo
oo
o oo
o
oooo
ooo
oo
o
oo
oooooo
oooo oooo
oo
o
o oo ooo
ooo
o
oo
o
o
o
o
ooo
0 50 100
oo
o
o
oooooo
o
oooo ooo o
ooo
oooooooooo
ooo
oo
oo ooooooo
o
o ooo oo
oo o
oooooo
ooo ooooooo ooooooo
oooooo ooooooooo
o
o ooo
o
oo
ooo
o
o
o
ooo
o
o
o
ooo
o ooooooo
oooo
o ooo o oooooo
o
oo oo
ooooooooo
ooo
o
oo
o
o
ooooo
o
o
o
o
oo
o
oooooo
oooo
oooo ooooooooo
oooo
oooo
oo
oo oooooooo
oo
o
oooooo
ooo
o
oooo
ooo
o
ooo
o
o
oooooo
o
o
o
oo
oooo oo
ooooooo
oooooo
o
oo
o
ooo o
o
o
oo
ooooooo
oo
oooo o
ooo
o
ooooo oo
o
o
o oo
o
oo
oo oo
ooooooo
oooo
ooo
ooo
ooo
ooo
o
oooo
oo
o
oo ooooooo
oooo
ooooo
ooo oo oo o
o
oooo o
ooo o
o
oooo
ooo
o
ooo o
o
o
o
o
oo
oo
ooo
o
ooo
o
o o o
oo
o
o o oooooooooooooooo
o
o ooooooo
o
o
oo
o
o
o
o
oo
o
100
160
220
oo
o
o
ooo
ooo
o
ooo
oooo o
oo
oooo
o ooo oo
o
ooo
oo
oo o
oo
o oo o
o
ooo o o
oo
oo
o oo
oo o
ooo ooo ooo o oo o o oo
o
oo
oooo oooo oo o
oo
o
oo oo
oo
o
ooo
o
o
o
ooo
o
o
o
oo
o o oo ooo
oo
oo o o
oooo oo
oooo o
oo o o
o
oo
ooo
oooo
ooo
o
oo
o
o
o oo o
o
o
o
o
o
o o
o
oooo o
o
oo
oo
oo
oo ooo oo
oooo
o oo
o oo ooo
o
oooooo
ooo
o
oo
o
oo
oo oo
oo o
o
oooo
o o o
o
oooo
o
oooooo
o
o
o
ooo o
o o oo
oo oo ooo
oo
o oooo
o
o
o
ooo o
o
o
oo
oooo ooo
oo
o ooo o
o
oo
o
oo oo
ooo
o
o
ooo
ooo
oo
ooooo
ooo
o
ooo o
ooo
oooo o o
oo o
o
ooo
o
oo
o
oooo oo
ooo
oo
oooo o
o ooo o
ooo oo
o
ooo
o o
oooo
o
oo
oo
ooo
o
oooo
o
o
o
o
oo
oo
ooo
o
ooo
o
ooo
ooo
oooo
oooo
oooooo o o
oo
o
ooo ooo
ooo
o
oo
o
o
oo
ooo
010
2030
o
ooo
oo oo
o oo
o
o o
o
oo o
o
o
oo
oo
o
oooooo o
oo oo ooo
o
o ooooo o
ooooo oo
oooo
o o oo
o
oo
ooooooooooooo
ooo
ooo
oo
o
ooooo oo ooooo
oo
ooooooo
ooo
o
o o
o
oooooooo
ooooo
ooo
ooooooooo
o
oooo oo oo
o
oooooo
o
o
oo
o
o
ooo
oo
ooo ooo oooooo
o
oooo
oo
o
ooo ooo oooooooo oooo
oo
o oo
ooo oooooo
oo ooooooo
o oo
o
oo o
o
o ooooo oo
ooo
ooo oo oo oo
ooo
oooooo
oo
o
ooooo
oo
ooo
ooo oo
o
o
ooooooo o ooooo
o
ooo oooo
oooo
oo
ooo
ooo
o
ooo ooo ooo
ooooo
o
oooo
oooo
ooo ooo
oo
oo o
o
o oooo o
o
oo
ooo oooo
oooooo
oooooooo
o
ooooo
o o oo
o
oo
oo
ooo
o ooo
oo
oo
o
oo
oo
o
o
oooo
o
oo
oo ooo
ooo oo oooooo
ooo
oooooooooo
o oo o oooo
o
tobaccoo
ooo
o
oooo ooo
oo
o
oo
oo
o
oo
oo
o
oooooo ooooo oo
o
o
ooo ooo o
ooooo o
oo
oooooo o
o
oo
ooo
oooooooo oooooooo
oo
o
ooooo
o o ooooo
oo
ooooooooo o
oo o
o
oooo
o ooooo
ooo
ooo
oooo ooooo
o
oooooooo
o
oooo oo
o
o
ooo
o
o oooo
ooooo ooo
ooo o
o
o oooo
o
o
oooooo ooooo
oooo ooooooo
o
ooooo
oo oo
oo oo
oo o oo
ooo
o
ooo
o
oooo
oooo
oooo
oo oo
oooo
ooo
oooooo
o o
o
oo
oooo
o
oo oooo
ooo
o
ooo ooo oo ooooo
o
oo oo ooo
oo
ooo
o
ooo
oo o
o
ooooooo oooooo
o
o
ooo oo
o ooooo o
ooo
ooo o
o
ooo
ooo
o
ooo
oooooo
ooooo ooooo
oo
oo
o
oo
oo
oo ooo
o
oo
o o
ooooo
oo
oo
oo
o
oo
oo
o
o
o oooo
o
ooo ooo
ooo ooooo ooo ooo
ooo oo oooo
ooooo ooo o
o
o
o ooo
oo ooo
o
o
oo
oo
o o
o
o
oo
oo
o
ooo oooo
ooooooo
o
ooo ooo o
ooo
ooo
oooooo oo o
o
oo
ooo
ooooo
oooo oooo
o o
o
oo
o
ooooooooo oo
oo
oo ooooo
oooo
oo o
o
ooo ooooooo oo oo oo
oooo oo oo o
o
ooooo ooo
o
oooo o
o
o
o
o
oo
o
ooooo
ooooooo ooooo
o
o ooooo
o
oooo oooo oooooo ooo oo ooo o
o oooooooooo oo
ooo oo
ooo
o
ooo
o
o oooo ooo
oo o
oooo
ooooo
oo
o
oo oooo
oo
o
oooo o
oo
ooo
oooooo
o
oooooooo ooooo
o
oooo oo o
ooo o
oo
oooo oo
oo
ooo o
oo ooooo o
o
o
ooooo
oo oooo o
ooo
oooo
o
oooo oo
o
oooooo oo
o
ooo o
ooo oooo
ooo
o
oo
oo
ooooo
o
oo
o o
ooo
ooo o
oo
oo
o
oo
ooo
o
ooooo
o
ooo oo
oooooo oo ooooo oooo oo oo
ooooooo oo
ooo
o
o
ooo
oooo
o oo
o
oo
ooo o
o
o
oooo
o
o oo
oooooooo o o
o
o
ooo o ooooooooo
ooooo
oooo
o
oo
ooo
ooooo
o oo oooo
oo
o
o
o o
o
oo oooo
o oo ooo
oo
o ooooo
oooo
oo o
o
ooo o oo oooo
oo oo
oo
oooooooo o
o
o o oooooo
o
oooooo
o
o
ooo
o
ooooo
ooo
ooo oo ooo o
o
o oooo
o
o
oooo oo ooo o ooooo ooo ooooo
o ooooo
ooo
o
o oooo ooo
ooo
o
ooo
o
ooooooo oo
oooooo
ooooo
ooo
oo ooo
o
oo
o
ooo oooo
oooo oo
o oo
o
o ooo ooo o o oooo
o
oo o ooo o
oo
o ooo
o ooooo
o
ooooo
o oooo
oooo
o
ooooooo
oooo ooooooo o
o
oo oooo
o
ooooo ooo
oooo
ooo
oo oo
oo
oo
o
oooooo ooo
o
oo
oo
oo
ooo
oo
oo
oo
o
o
oo
oo
o
ooooo
o
ooo ooo
ooooooo oooo
oooo oo oooooooooo oooo o
o
o
ooo
oooooo
o
o
oo
o
oo
o
o
o
oo
oo
o
ooo
ooo oooo oooo
o
ooooo
ooo ooo oo
oo
ooooooo
o
oooo
oo
oooo
oooooo
oooo
o
o o
o
ooooo oooo ooo
oo
oooooo
oooo
ooo
o
oo
o ooooooo
oo o
oo o
ooo oooooo
o
oo oooooo
o
oooo
oo
o
o
oo
o
o
ooo
oo
oooooooooooo
o
ooo o
oo
o
ooooooooooooo o
oooooo
oo o
ooooo
ooooo
ooooooo
o
oo o
o
oo o
o
oooooo oo
oooooo oooo o
o
ooo
ooooo
o
oo
o
oo
ooooo
ooooo o ooo
o
oooo ooooo
o ooo
o
oooooo o
oo
oooo
o oo
oo o
oo
oo oooooo
ooo oo
o
oo ooo
ooo ooo o
ooooooo
o
o o oo oo
o
oooo ooooo
o ooo
oo oo ooo
ooo
o
ooo
oo
oooo
o
o
ooo
ooooooo
oo
oo
o
oo
oo
o
o
oo oo
o
o
oo o oooooooooooooooo
oo ooooo
oooooo ooo
oooo
o
ooo
ooo o
o oo
o
oo
oooo
o
o
ooo o
o
o oooooo
oooo o o
o
o
oooooo o
ooo
o ooo
oo
oo
o oo o
o
oooo
oooo oo
o o o ooo
o oooo
o o
o
oo oo oo
o o oo o o
oo
o ooooo
oooo
oo o
o
oo
o oo ooo
oo o
o oooo
oooo oooo o
o
o o oooo oo
o
oooo
oo
o
o
oo
o
o
o oooo
ooo
oo o ooooo o
o
oooo
oo
o
oooo oooooo
o ooo oo ooooooo
oo o oo
oooo
oo o o
o oooo
oo o
o
ooo
o
oooo
oooooooo ooo
o ooo
o
o oo
ooo oo
o
oo
o
oo
ooo oo
ooo
oo oooo
o
oooo ooo oo
o ooo
o
ooo ooo o
oo
ooo
o
ooo
ooo
o
oo
o oooo oo
ooo o
o
o
oo oo
oo
ooo
o ooo o
oo
oo o
o
oooooo
o
o o oooo o oo
ooo oo oo oo
ooo
oo
o
oo
oo
oo o oo
o
oo
o o
ooo
oooo
oo
oo
o
oo
oo
o
o
oooo
o
o
oooo o
oooooooooo o ooo
oooo ooo
oooo
ooo ooooo
o
oooo
oooooo
ooo ooo
o
o oo
o o
ooo
oo
oooooooo
oo
ooooo
ooo o
oo
oooo
o
o o
o
ooo ooo oooooo
o
ooooooooo ooo ooo
ooo ooo
oo oo
oooo
o
o
o
oo oo oo ooo
o o
o
o
o
o
o oo
ooooo o
o
oo
ooooooo
o
ooooooooo
oo
ooo ooooooo
oo
oooo
oooo
oo
o o
oo
ooooo
oo o
o oo
o
o
ooooooo oooo o
o
oooooo oo
ooo
ooooo
oo
ooo
o
ooo
oo
ooo o
o
ooo ooo
ooo oo o
oo
oooo
oooo
oooo
ooo
ooooo
oo oo
o
oooo
oo
oo
ooo o oooooo
oo
o
ooo
ooooo ooo
o
o
oooooo
oo o o
o
ooo oo oo ooo oo
ooooo
o
oooo
oo
o
oo
o
oo
o
ooo oo o
o
oooo
ooo
oo o o
oo ooooo
oooo
oooo oo
o
o
ooo
o
o
o ooo oooo
o
ooooo o o
o
oo ooo
o
o
o
oo
oo
oooo oo ooo
o
oooo
oo
o oooooo
oo
o
oooo
oo ooo o
oo
oo
oo
o
o
o ooo
oo
oooo
oo
ooo oo
o
oo o
o o
oo o
oo
ooooo oooooo
ooo
oooo o
oo
oo
oo
o
oo
o
o ooo
oo ooo ooo
o
ooo ooooooooooooooooooooo
ooooo
o
oo
oooooo ooo
o o
o
o
o
o
oo oooooo o
o
oo
ooooo
oo
o
ooooooooooo
oo ooooo
oooo
ooo
oooo oo
o
o
oo
ooooooo
ooo
ooo
oo
oooo
oooooooo
o
ooooooo
oooo
ooo
oo
o
ooo
o
o
oo o
ooo
oooo
oooo ooooo ooo
o
o
ooo
ooo
oo
oooo
o oo
oooo o
oo oo
o
oooo
oo
oo
ooooo o
oooooo
o
ooooooo
ooooo
o
ooo
oooo
oooo
ooo ooo oooooo
o ooo o
o
oo
ooo
oo
ooo
oo
o
oo
o ooo
o
oooo
ooo
oo ooooooooooo o
oo ooo oo
o
o
o ooo
o
ooo
ooo oo
o
oo
o oo oo
o
ooooo
o
o
o
oo
oo
ooo oo oooo
o
o oooooooooooo
oo
o
ooooooooo o
ooooooo
o
oldl
oo oooo
oooo
oo
oo oo
o
ooo
o o
ooo
oo
o oooo oooooo
ooo
oo
ooo
oo
oo
oo
o
oo
o
oooo
oooo
o oo
o
o
oooooo
oo oo ooo oo ooo
ooooooooo oo
o
o
o
o ooooo ooo
o o
o
o
o
o
ooo
oooooo
o
o o
ooo
oooo
o
o oo oo ooooo o
ooooooo
ooo
oooooooooo
o
o
oo
ooo o
ooo
ooo
ooo
oo
oooo
o oooo ooo
o
oo
ooo oo o
ooo
oo
ooo
o
oooo
o
oo o
ooo
o ooo
oooooo oooo oo
oo
o ooo
oooo
oooo
oo
o
o oooo
ooo o
o
oo ooo
ooo
oooooo
ooooooo
oo
oooooo ooo
o
o
o oo
oo oo
o ooo
o oo oo ooo ooo
o
oooo o
o
oo
ooo
oo
ooo
oo
o
oo
oooo
o
oooo
o oo
oo oo
ooo oooooo oo
oo oooo
o
o
oooo
o
oooooooo
o
oo
ooo oo
o
ooooo
o
o
o
ooo
oooooo oooo
o
oooo
ooo oo oooo
o
o
o
oo oo
ooooo o
ooo
oooo
o
o o ooo
oo
oooo
oooooo
o
ooo
o oooo
oo
o oooo o
ooo
oo
ooo
ooo oo
o o
oooo
o
oo
o
oooooooo
o ooo
o
ooo oo oo
ooooo
oooo oo oo oooooo
o oo
o
o
o
o ooooo oo
o
oo
o
o
o
o
oooo
o oooo
o
o o
o
ooooo
o
o
ooo ooo o oo
ooooo
ooooooo
ooooooooooo
o
oo
oooo
ooo
ooo
ooo
o
ooooo
o oo oooo o
o
ooo ooo ooooo
oo
oo
o
o
ooo
o
o
ooo
o ooooo
o
oo
oooooo
o ooo
oo
oooooo
ooooo ooo
o
o oooo
oo oo
o
o ooo
ooo
o
o ooo oooo oo
o o
o
oooooo o
o oooo
o
o oo
o o oooo oo
ooo ooooo oo o
o
ooo
o o
o
oooo
ooo
ooo
oo
o
oo
oooo
o
oooo
ooooooo
oo oo
o ooo oo
oo
oo ooo
o
o
oo o
o
o
ooo
oo o oo
o
o
ooo oo o
o
ooooo
o
o
o
oo
ooo
oooooooo
o
oo oooooo o oooo
oo
o
o ooo
ooo
ooo
oo
oo
oo
o
o
o oooo
oooooo
ooooo o
o
o oo
oo
ooo
oo
oooo
oooo
oo
oooo
ooooo
oo
ooo o
o
oo
o
oooo
o
o ooo ooo
o
ooo oooooo o oooooo o
oooooooooo oo
o
o
o
ooooo
oooo
oo
o
o
o
o
oo ooooooo
o
oo
oo o ooo
o
o
ooooo oo ooo oooooooo
ooo
oo
oooooo ooo
o
oo
ooooooo
oooooo
oooo oooooo
ooo o
o
oo
ooo oooooo
oo
ooo
ooooo
o
ooo
oooooo
o
ooo ooo oo
o oo o
oo
ooooo
oooo
ooo
ooo
ooooo
oooo
o
ooooooo
o
ooo ooo
ooooo o
o
oo
oo ooo
ooooo
o
ooo o ooo
oo oo
ooooo oo oooo
ooooo o
o
oo
o o
oo
o
oo
o
oo
o
oooooo
o
ooo o
o oooo ooo oooooo
oooo
ooo oo
oo
o
o ooo
o
ooo
ooooo
o
oo
oo oo o
o
oo ooo
o
o
o
oo
oo
oo o oo ooo o
o
ooooooooooooo
oo
o
o ooooo ooo o
oo
ooo oo
o
o
26
1014
o ooo
oo
o ooooo
oo oo
o
o oo
o o
ooo
oo
oo ooo oo o
oo
oo
ooo
ooo o
oo
oo
oo
o
o o
o
o oo o
o
o ooo ooo
o
oo o oo o
ooooo oooo
o oooo oo o
ooooo o
o
o
o
o ooooo
ooo
o o
o
o
o
o
o o oo
oo ooo
o
o o
ooooo
oo
o
ooo ooo o oo
oooo oooooo
ooo
ooo
oo oo oo
o
ooo
oo
ooo
oo
oooo o
o
o
ooo oo
oo
oo
oooo
o
oooo oooo
ooo
oooo
o
o
ooo
o
o
ooo
ooo
o ooo
oo
oo o ooo
o ooo
oo
oo o
oo
oo
o
oo oo
oo
o
oo oo ooo oo
o
oooo
ooo
o
ooo o oo
oooooo
o
oo
oo
oooo oo
oo
o
o oo
oooo
o ooo
ooo oo oo
ooooo
o oo
o o
o
oo
o o
ooo
ooo
o o
o
oo
o ooo
o
oooo
ooo
oo o o
ooo o ooo
oo oo
oo oo oo
o
o
oo o
o
o
oooo oooo
o
o
oooo oo
o
ooooo
o
o
o
oo
oo
oooo oo ooo
o
ooooooooooo o o
oo
o
ooo ooo ooo o
oo
ooooo
o
o
0.0
0.4
0.8
o
o
o ooo
o
oo o
o
o
o o
oo
o
o oo
o
o o
oo
o
o o
o
oo o
o
o oo oo
ooo
oo
o
oo
oo
o o
o
o o
o
ooooo
o
o
o o
oo
oo
o
o
oo oo
o
ooo
o
o
oo
o
o
o
o
oo
oo
ooo oo oo
ooo
o
o
o
o
oo oo
o
ooo
o
o
o
o
o
o o
o
oooo o o
o
o
o
o
o
ooooo
o
o
o
o
o
o
o
ooo o
o o
oo oooo
o o
o oo oo oo oo oo
oo o o
oo o
ooo
ooo o
o oooo
oo
oo
o
oo
oo
o
o o
o
oo
o
oo
o
o
oo
o
o
o
o
o oo o ooo oo
o
o
o
oo
o
o
o oo
ooo ooo
o
oo o
o
oo
o
o
o o
o
o
oo o
o oooo
o
o
o
oooo
oo o
o oo
o
o
oo
o o
oooo o oo
o
ooooooo o
o
ooooo
oo
o o
o
o
o o
oo
o o
o
o
o oo
o
o
o
o
oo
o
o
o o
o
oo oo
oo
oo
oo
o
o
oo
o o
oo
oo
o
o
o
o o oooo
oo
o
o
o
o
o oo
o o
oo
o
oo
o
o o
oo
o
o oo
oo
oo
oo
oo
oo o
oooo
o
o
o
ooo
o o
o
o o o
oo ooo
ooo
o
oo
oo o
o o
oo
o
o
o
ooo oo
o
o
o
oooo
o
ooo
o
o
oo o
oo
oo
oo
o
oooo
o o
o
o o oo
o
ooo
o
o
oo
oo
o
oo o
o
oo
o o
o
o o
o
ooo
o
ooooo
o oo
oo
o
o o
oo
o o
o
oo
o
o oo oo
o
o
o o
oo
oo
o
o
ooo o
o
ooo
o
o
oo
o
o
o
o
o o
oo
oooo ooo
oo o
o
o
o
o
oooo
o
ooo
o
o
o
o
o
oo
o
oooo o o
o
o
o
o
o
ooo oo
o
o
o
o
o
o
o
oooo
oo
o ooooo
o o
o oo oo oooo o o
oo oo
ooo
ooo
oo oo
o oo oo
oo
oo
o
oo
oo
o
oo
o
oo
o
oo
o
o
o o
o
o
o
o
ooo oooo oo
o
o
o
oo
o
o
ooo
oooo oo
o
oo o
o
oo
o
o
o o
o
o
oo o
oo ooo
o
o
o
oo o o
oo o
o oo
o
o
oo
oo
ooooooo
o
oooooooo
o
oooo o
oo
oo
o
o
o o
oo
oo
o
o
o oo
o
o
o
o
o o
o
o
oo
o
o ooo
o o
oo
oo
o
o
oo
oo
oo
oo
o
o
o
ooo ooo
o o
o
o
o
o
ooo
oo
oo
o
oo
o
oo
o o
o
o oo
oo
o o
oo
oo
ooo
oo oo
o
o
o
o oo
oo
o
o oo
oo oo o
o oo
o
oo
o oo
oo
oo
o
o
o
ooooo
o
o
o
oo oo
o
ooo
o
o
ooo
oo
oo
oo
o
o ooo
o o
o
o oo o
o
oo o
o
o
oo
oo
o
ooo
o
o o
oo
o
oo
o
oo o
o
ooo oo
o oo
oo
o
oo
oo
o o
o
o o
o
o ooo o
o
o
oo
oo
oo
o
o
oooo
o
oo o
o
o
oo
o
o
o
o
o o
oo
oo oo o oo
oo o
o
o
o
o
ooo o
o
oo o
o
o
o
o
o
oo
o
o ooooo
o
o
o
o
o
ooo oo
o
o
o
o
o
o
o
oooo
o o
oo oooo
oo
o oo ooooooo o
oo oo
o oo
o oo
o ooo
ooo oo
oo
oo
o
oo
oo
o
oo
o
oo
o
oo
o
o
o o
o
o
o
o
ooo oo oo oo
o
o
o
oo
o
o
ooo
oooooo
o
ooo
o
o o
o
o
oo
o
o
ooo
ooooo
o
o
o
oooo
o oo
o oo
o
o
oo
o o
ooooooo
o
ooo ooo oo
o
oooo o
oo
oo
o
o
oo
oo
o o
o
o
o oo
o
o
o
o
oo
o
o
oo
o
oo oo
o o
o o
oo
o
o
o o
oo
o o
oo
o
o
o
oo oooo
o o
o
o
o
o
oo o
oo
oo
o
oo
o
oo
oo
o
ooo
o o
oo
oo
oo
oo o
oooo
o
o
o
ooo
o o
o
ooo
oo oo o
o oo
o
oo
ooo
oo
oo
o
o
o
ooo oo
o
o
o
ooo o
o
ooo
o
o
o o o
oo
o o
oo
o
ooo o
o
famhist
o
o
o oo o
o
oo o
o
o
oo
oo
o
ooo
o
oo
oo
o
oo
o
ooo
o
ooo o o
oo o
oo
o
oo
o o
o o
o
oo
o
o oooo
o
o
oo
oo
o o
o
o
ooo o
o
oo o
o
o
oo
o
o
o
o
oo
oo
oo ooo oo
ooo
o
o
o
o
oooo
o
oo o
o
o
o
o
o
oo
o
oooooo
o
o
o
o
o
o oo oo
o
o
o
o
o
o
o
o ooo
o o
oooooo
oo
o ooooooooo o
oo oo
oo o
o oo
o ooo
ooo oo
oo
oo
o
oo
oo
o
o o
o
oo
o
oo
o
o
oo
o
o
o
o
o oo oooo oo
o
o
o
o o
o
o
ooo
oooooo
o
oo o
o
o o
o
o
oo
o
o
ooo
ooo oo
o
o
o
oo oo
oo o
o o o
o
o
oo
oo
oo ooo oo
o
o ooo ooo o
o
oooo o
oo
o o
o
o
oo
o o
oo
o
o
ooo
o
o
o
o
oo
o
o
o o
o
oo oo
oo
oo
oo
o
o
oo
oo
oo
oo
o
o
o
oo oooo
o o
o
o
o
o
ooo
o o
oo
o
oo
o
o o
oo
o
ooo
oo
o o
oo
oo
oo o
oo oo
o
o
o
oo o
o o
o
o oo
ooo oo
o oo
o
oo
ooo
oo
oo
o
o
o
ooooo
o
o
o
ooo o
o
oo o
o
o
oo o
o o
o o
oo
o
ooo o
o o
o
o o oo
o
ooo
o
o
oo
o o
o
o oo
o
oo
oo
o
o o
o
oo o
o
oo ooo
o oo
oo
o
oo
oo
oo
o
oo
o
o oooo
o
o
o o
oo
oo
o
o
ooo o
o
ooo
o
o
oo
o
o
o
o
oo
oo
ooooooo
ooo
o
o
o
o
oo oo
o
ooo
o
o
o
o
o
oo
o
oooooo
o
o
o
o
o
o ooo o
o
o
o
o
o
o
o
o ooo
oo
oooooo
oo
o oo oo oooo oo
oooo
ooo
ooo
oooo
ooo oo
oo
oo
o
oo
oo
o
oo
o
o o
o
oo
o
o
o o
o
o
o
o
ooooooooo
o
o
o
oo
o
o
oo o
ooo ooo
o
oo o
o
oo
o
o
oo
o
o
ooo
o oooo
o
o
o
oo oo
ooo
ooo
o
o
oo
oo
ooo o ooo
o
oooo oooo
o
o ooo o
oo
oo
o
o
oo
o o
oo
o
o
o oo
o
o
o
o
oo
o
o
oo
o
oooo
oo
oo
o o
o
o
oo
o o
oo
oo
o
o
o
ooo oo o
oo
o
o
o
o
ooo
oo
oo
o
o o
o
o o
o o
o
ooo
oo
o o
oo
o o
ooo
oooo
o
o
o
oo o
o o
o
oo o
ooo oo
oo o
o
oo
o oo
oo
o o
o
o
o
ooooo
o
o
o
oooo
o
oo o
o
o
oo o
oo
oo
o o
o
o ooo
o o
o
o ooo
o
oo o
o
o
oo
oo
o
o oo
o
o o
oo
o
o o
o
ooo
o
o ooo o
o oo
oo
o
o o
oo
o o
o
oo
o
ooo oo
o
o
o o
oo
oo
o
o
oo o o
o
o o o
o
o
o o
o
o
o
o
oo
oo
oo oo o o o
o o o
o
o
o
o
oo oo
o
ooo
o
o
o
o
o
o o
o
o oo o oo
o
o
o
o
o
ooo oo
o
o
o
o
o
o
o
o ooo
o o
o ooooo
o o
o oooo oooo o o
oo oo
o o o
ooo
o o oo
o oo oo
oo
oo
o
oo
oo
o
o o
o
oo
o
o o
o
o
o o
o
o
o
o
o oo oooo oo
o
o
o
oo
o
o
oo o
oooo o o
o
oo o
o
o o
o
o
oo
o
o
oo o
oo oo o
o
o
o
o oo o
oo o
o o o
o
o
o o
oo
ooo o o oo
o
oooo ooo o
o
o ooo o
oo
o o
o
o
oo
oo
o o
o
o
o o o
o
o
o
o
oo
o
o
oo
o
o o oo
o o
oo
o o
o
o
o o
oo
o o
o o
o
o
o
oo oooo
o o
o
o
o
o
o oo
oo
o o
o
oo
o
oo
oo
o
o oo
oo
o o
oo
oo
oo o
oooo
o
o
o
ooo
oo
o
o oo
oo ooo
ooo
o
oo
oo o
o o
oo
o
o
o
ooooo
o
o
o
o o oo
o
ooo
o
o
oo o
oo
o o
oo
o
oooo
o
ooo ooo
oooo oooooooooo
oo ooo
o
o
o
ooo o
oo o
oo
ooo
ooo
o
o
o oo
o
oo o oo ooooo o oo oo
ooo
oo
oo o
o
o
oooo
ooo
o
oooo
o
oooo
o oo
o
oooo
oooooo o
o
o
ooo o
oo
o
oo ooooo
o ooo
oooo
ooooooo oo
o o
ooo
o oooo
o oooo o oo
oo oo ooooo
o oo
oo
ooo
oooooo o
o
oo
oo
oooo o
o
oo
ooo
oooo o
ooo
oooooooo oo
o
oooo
o
o
ooooo oo oo oo
o ooo ooooo o
oooo ooo oo oo oo
o
oo
o
oooooooo
oooo
o ooo oo
ooo o
ooo
oooo
ooo
oo
o
oooo ooo
o
ooo o
oo
o
oo o
oo
ooooo oo o
o
o
oo
oooo
ooooooo
oooo o
ooo
ooo oo o
ooo oooo oooo oooo
oo
ooooooo
ooo o
o
oo
oo
o
ooo oo
o
oo
o
oo
ooooo
oo
oo
o ooo o
oo
o
oo o
oooo o
oooo
ooo
ooo oooooooo
oo
ooo
o
o
ooo
oo
oo oo
ooo
oo
o
ooo o
oo
ooo
oo
ooo oo oo
o o
ooo
o oo
o
o
ooooooo
o
ooo ooooo
o
o oo
o
oooooooo oooo
o ooo oo
oo
ooo
oo
oo
oo ooo
o
o ooo
o
oooo
oooo
ooo o
oooooooo
o
oooo
oo
o
oooooooo oo
ooooo
ooo
oooooo
o o
ooo
ooooo
ooooo o ooo
o ooo
oooo ooo
ooooo
ooo
oo oo
o
ooo
oooooo
o
oo
ooooo
oooooooo oo
ooo
ooo
o
oooo
o
o
o oooooooooo
ooooo
ooooo
oo
oooooo
oo oo o
o
o o
o
oooooooo
oo
oo
oooooo
oooooo
o
ooooooooo
o
oooo
oooo
ooo o
ooo
ooo
o
oooo
ooo ooo
o
oo
o ooooo
oo oooo ooooooo o
oo o ooo
oooo
ooo
ooo
ooooooo ooo oooooo o
o
oo
oo
o
ooo oo
o
oo
o
ooooo o
o
oo
oo
oooo o
oo
o
oo oooo oo
ooo
ooo
oooooooooooo
oo
ooo
o
o
ooo
ooo
ooo
oo o
oo
o
ooo
oo
o
oooo
o ooooo o
ooo
oo ooo o
o
o
ooo oooo
oo
oo ooooo
o
o oo
o
o oo ooo oooooo oooooo
oo
ooo
o
o
oooooo o
o
oooo
o
oo
oo
oooo
ooo oo ooooooo
o
oooo
oo
o
oooooooooo
ooo
oo
oooo
o oooo
o o
ooooooooooooo ooo
oo ooooooo o oo
oo
o ooo
ooo
ooo
o
oo
oo
ooooo
o
oo
oooo
ooo oo
oooo ooo
oo
ooo
o
o ooo
o
o
oooo ooooo ooooooooo
oooo
oooo oo ooo oo o
o
o o
o
oooooo ooo
ooo
o ooo o o
ooooooo
ooo oo
o oo
oo
ooooooo
o
ooo o
ooo
ooo
oo
oo ooooooo
o
o o
ooo
oo ooooo ooo
ooo
ooo
oo
ooooo
oooo
ooooo
oo ooo
ooo oooo
o ooooo
o
o o
ooo
ooooo
o
oo
o
oo
o oooo
oo
oooo
oo oo
oo
oo oo
ooooo
ooo
oooooo ooo
oo oooo
oooo
o
o
o oo
ooo
ooo
ooo
o
o
o
oo ooo
o
o ooooooo oooooo
ooo
ooo
o
ooo
ooooo
o
oo
ooo
ooo
o
ooo
o
o ooooooooo oo ooo
o oooo
ooo
o
o
ooo oo o
o
o
ooo
oo
oo
oo
oooo
ooooo o
o ooooo
o
oooo
oo
o
ooo ooooooo
oo
oo
o
ooooo oo oo
oo
ooooo o
ooooooo ooo
oooooooooo oo
oo
ooo
ooo
oooo
o
oooo
oo ooo
o
oo
o ooo
ooo ooo oo ooo
oo
oooo
o
ooooo
o
o ooo oo ooooooooo oooo oo
oo
o ooo oooo ooo
o
oo
o
ooo
oo
ooo
ooo
o
ooo
ooooooooo
o
oooooooo
oo
oooo o
ooo
oo
oo
oo
o
oo o
o
oo oo oo ooo
o
o
o o
oooo
oooo ooo ooo o
ooo
ooo
oo oooooo
oo
oo oo ooooo
oo
ooo
o oooo o
ooo
oo
oo
o
ooo oo
o
oo
o
oo
o oooo
oo
oooo
ooooo
o
oooo
oooo
ooooooo
ooooo oo
ooooo
oooo
o
o
ooo
oo o
ooo
ooo
oo
o
obesityo
oo oo
o
oooo
ooooo
ooo oo
ooo
ooo
o
o
ooo oooo
o
ooo oo
ooo
o
ooo
o
oo oooo
ooooooooo
o oooo
oooo
o
oooo o oo
o
ooo
o
o
oooo
oooo
oooooo
oooo oo
o
oooooo
o
ooo o
oooooooooo
o
oo
oo
ooooo
oo
oo
ooooooooooo ooo
oo oo oooooooo
ooooo
ooooooo
o
ooo
ooo ooo
o
oo
oooooo oooo ooo oo
ooo
ooo
o
ooooo
o
oooooooo o
ooo oooooooo o
ooooooo oooo
oo
o
o o
o
oooo
oooooo
oo
oooooooo o ooo
o
oooo
oooo
oo
ooooo
ooo
oooo
oo
o
ooo
oo
ooooo oo oo
o
oo
oooooo
ooo ooo o
oo ooo
oooooooo
oo o oooo oo ooo oooo
oo ooo
oo oo
oo
ooo
oo
o
oo ooo
o
oo
o
oo
ooooo
oooooo
ooooo
o
oo o
oo o oo
ooo
ooo
oo
oooooooooooo
oo o
o
o
ooo
oo ooo
o
oo o
oo
o 1525
3545
ooo o
oo
o ooo o
ooo oooo oo
oo o
ooo
o
o
o ooo
oo o
o
oo
o oo
ooo
o
o oo
o
o o ooo ooo oo oo o oo
o oooo
oo o
o
o
oo
oooo o
o
ooo
o
o
oo
oo
oooo
oo o oo oo
ooo oo
o
ooo o
ooo
oo o
oo
ooo ooo
oo
oo
oo
ooo o
ooo
oo
oo
oooooo
ooooo o oo
oo oo o
o oo oooo
oo
o ooooo
oo oo
o
oo
oo
oo ooo
o
oo
ooo
o ooo oo
ooo
o oooo
o
o oo
o
oooo
o
o
ooo
oo o oo
o oo
oo o oooo
ooo
oooooooo
o ooo o
o
o o
o
oo o
oo
ooo
oo
oo
o ooooo
oo o o
ooo
oooo
ooo o
oo
ooo
o oo
oo
oo
oo
ooo
oo o
oo
ooo oo oo oo
o
o o
o oo
oo o
ooo oooo
o ooo o
o o
oo ooo
oooo
oooo
oo o oooooo
ooo
o oo oo oo o
o
oo
oo
o
ooo oo
o
oo
o
oo
o oooo
ooo
ooo
oo o
ooo
oo ooooo ooooo
o ooo
oooooooo o o
oo
ooo
o
o
ooo
oo o
ooo
ooo
oo
o
050
100
o
ooo
o
oooo o
o
oo oooo
o
o
oo o
oooooooooooo o
o oo
oo
o ooooo oo
o
oooo
o o
o
ooo o ooo
oo
o
ooooooo
oooooo
o
o oooooo ooooooo ooooo
oo oooo
o
ooooo oo o
o
oo oo
ooooo o
o ooooo
o
ooo
ooooo oooo
o oo ooo oooo
oo
o
o
oo
oo
ooooo oo o ooo ooooooo o
o oo
o
o oooo ooo oooo
ooo
oo
ooo
oooooo
oo oo oooo oo oo
ooo
ooo o
o
ooo
o
ooooo
oo
o
oooo ooo
o
o oo
ooooo o
ooooooo o
o oooo oo o oooo
oo
oo
o
ooooooo o
ooooo
o
ooo oooo
oo
oo
oo
oo
oo
oo
oo
o
oo
oo oooo oooo oo
oo
oo
o
oo
ooo
o
ooo oo o oo
ooo
oo
oooo oo
o
ooo oo
o
oo
o
o
o
o
o
oo
o
oo
o
oooo o
o o oooo o
oo
ooo o
oooo
ooo o
oooo
oo
ooo
o
o
o
ooo
oo
oooo oo oooooooo
o
o
ooooo
o
oo
o
o o
o
o ooo o
o
o
ooo
o
ooooo
o
ooo oo o
o
o
oo ooo ooo
oooo
o ooo
oooo
oooooo oooo
oooo
oo
o
o oooooooo
o
ooooooo
oooooo
o
o oo ooo
ooooooo ooooo o
oooooo
o
o oooo ooo
oo ooo
ooooo ooooooo
o
ooo
ooooo oooo
ooooo ooooo
oo
o
o
oo
oo
oooo ooo oooooooooo
ooo oo o
o oooooooooooooo
oo
oooooooo
ooooo oooo oooo oooo
ooo
o
ooo
o
ooooooo
o
o ooo oo o
o
oo o
o ooo
oo
ooooooo oo o
ooooo ooooooo
oo
o
ooooooooooooo
o
ooooooo
oo
ooo
o
oo
oooo oo
o
ooooooo ooo
oo oooo
oo
o
oo
ooo
o
ooo o ooo
o
ooo
ooooo
oooo
oo oo o
o
oo
o
o
o
o
o
oo
o
oo
o
oo oo ooooo oo o
oo
o oo
oooo
o
ooo o
o oo o
oo
ooo
o
o
o
ooooo
ooooooooooo ooo
o
o
ooooo
o
oo
o
oo
o
ooooo
o
o
ooo
o
oooo o
o
ooooo o
o
o
ooo
ooo oooo oooooo
o oo
ooooo ooo oo
o
o oo
o
oo
o
ooooo oooo
o
oo ooooo
ooo ooo
o
ooooo
ooooooo
o o oooo oo
ooooo
o
oooo ooo o
ooo
oo
o ooooo
oooo
o o
o
o oo
ooooo oooooo
o ooo oooo
oo
o
o
ooo
oo ooo o oo ooo ooo ooo
oooooo
o
o ooooooooooo
o oo
oo
ooooooo
ooo
oo o oo oo oo ooooo
oooo
o
ooo
o
ooooooo
o
ooooo oo
o
oo o
ooo
oo o
oooooo ooo oooo oo o o ooooo
oo
o
ooo oo
o ooo
oooo
o
oo oo ooooo
oo
oo
oo
oo
oooo
o
ooooo oooooo oo ooo
o
o
o
oo
ooo
o
oo oooo
oo
ooo
ooooo
oooo
oooo o
o
oo
o
o
o
o
o
oo
o
oo
o
oo ooo
o ooooo o
oo
ooooo ooo
ooo oo oo o
o o
o oo
o
o
o
ooo
oo
oooo ooooo ooo oo
o
o
oo oo o
o
oo
o
oo
o
o ooo oo
o
o ooo
oo ooo
o
ooo oooo
o
oo oooo oo
oooo
o ooo
ooo
ooooo ooo oo
o
o ooo
oo
o
ooo oo oooo
o
oo ooooo
oooo oo
o
oo ooo
oo ooooooooo
ooo
ooo ooo
o
o oooo oo o
o
ooo
ooooooo
oo oooo
o
ooo
oo oo oo ooooo o
ooooooo
oo
o
o
ooooooooo ooooooo ooooooo oo
oo
oooooo oooo oo
o oo
oo
ooo
o oo
oo
ooooooooooo oooo
oo
ooo
o
ooo
o
ooooo
oo
o
o oo ooo o
o
oo o
oooo
o o
o ooooooooooo ooo ooooo
oooo
o
oooooooo
ooooo
o
oooo oo oo
o
ooo
o
oo
oo
oo
oo
o
oo
ooo ooooooooooo
oo
o
oo
ooo
o
oo oo oooo
oo
o
o oo
ooooo
o
o ooo o
o
oo
o
o
o
o
o
oo
o
oo
o
oooo o
oooooo o
oo
ooo
ooo ooo
ooooo
oo
oo
ooo
o
o
o
ooo
oo
oooooo oo ooooo o
o
o
ooo oo
o
oo
o
oo
o
ooooo
o
o
ooo
o
oooo o
o
oooooo
o
o
oooo ooo o
oooo
o ooo
oooo
oooo o ooo o
o
oooo
oo
o
ooooooooo
o
oo ooooo
o oo ooo
o
o ooooo
o oo oo ooo oo
ooo
oo o ooo
o
oooo ooo o
ooo
oooo oo
ooooooo
o
o
o oo
oooo oooo
oooo ooooooo
oo
o
o
oooo
oooo ooo oooo oo ooo oo o ooo o
o ooooo oo ooo o
ooo
oo
ooo oooo
ooo
ooo oooo oo ooooooooo
o
ooo
o
ooooooo
o
oooooo o
o
ooo
oo ooo o
o ooo
ooo oo oo oooo oooo o
oo
oo
o
o oooo
oo oo
oooo
o
oo o ooooo
o
oo
oo
oo
oo
oooo
o
oooo oooo oooooooo
oo
o
oo
oooo
oo ooooo
o
ooo
ooooo
oooo
ooo oo
o
oo
o
o
o
o
o
oo
o
oo
o
oo oooo oo o
oo o
oo
oooo
o oo o
o
oooo
oo o
oo
ooo
o
o
o
ooo
oo
o ooo oooo oooo oo
o
o
oo ooo
o
oo
o
oo
o
oooo o
o
alcoholo
ooo
o
oo oo o
o
ooo oooo
o
oooo ooo o
oo oo
o oo o
o ooo
oooo
oo o ooo
o oo
o
oo
o
o oo oo oo
oo
o
oo ooo oo
o o o ooo
o
o oooooooo oo oo o o o
oo oo
oo ooo
o
ooooo oo o
ooo
oo
o oo ooooo
o ooo
o
o o
o
oooo ooo
oo
ooo oo
ooooo
oo
o
o
oo
oo
o ooo ooo ooo o ooooo o ooo o
o o
o ooooo ooo
oooo oo
oo
o oo
oooooooo oo o
ooo oo o oo oo
oo
oo
o
ooo
o
o ooo
ooo
o
o oooooo
o
o oo
o oo
ooo
oo oo
ooo oo oooo o o ooooo
oo
oo
o
ooooo
oo oo
oo
oo
o
ooo ooo oo o
ooo
o
oo
oo
oo
oo
o
ooooo oo o oo
oo oo
oo
o
o
o
oo
oo o
o
o oo ooooo
ooo
ooooo
o oo
o
o o oo o
o
oo
o
o
o
o
o
oo
o
oo
o
o ooo o
o o oooo o
oo
ooo oooo oo
oo ooooo
oo
ooo
o
o
o
ooo
oo
oooooooooo o ooo
o
o
oo ooo
o
oo
o
ooo
ooooo
o
100 160 220
oo
oo
ooo
o
o
oo
o
o o
ooo
ooo
o
oo
oo
oo
ooo
o o
o
oo
oo
o
o
o
oo
o
o
o
oo
o
o
oooo
o
oo
oo
o
o
oo
o
o
o
o
oooo
ooo
o
oo
oo o
ooooo
o
oo
oo
o
o
o
o
oo
o
oo
o
oo
o
o
oo
ooo
o
oo
o
o
ooo
oo
o
o
o
oo
oo
o
oo
o ooo
o
o
oo
o oo
o o
o
o
o
o oooo
ooo
oo
o
o
o
o
oo
o
o
o oo
oo
o
o
oo
o
o
ooo
o
oo
o ooo
oo
o
o
o
oo
oo
o
oooo
oo
oooo
oo
o
o
oooo
ooo
o
o
o
oo
o
o
o
o
oo
oo
oo
oo
oo
o o
oo o
oo
oo o
oooo oooo
o
o
ooo
ooo
o
oo
o
o
o
oo
o
o
oo
o
o
o
oo o
o
oo
o
oo
o
o
oooo
o
oo
oo
oo
oo
oo
o
o
oo
o
o o
o
oo
o
o
o
o oo
o
o
ooo
o
ooo
o
o
o
o
o
o
oooo
o
oo
ooo
o o
oo
o
oo
o
oo
o
ooo o
o
oo
o
o
o
o
oo
o ooo o
o
oo
o
o
o
o
o
o
o
ooo
o
oooo
o
o
oo
oo
o
o
o
ooooo
o ooo
o o
o
o
ooo
o
oo
o
oooo
oo
o
ooo
o
oo
oo oooooo
oo
o
o
o
oooo
oo
o
oo
oo
o
o
o ooo
oo o
o
o
ooo
o
o
o
oo
o
oo
oo ooo o
o
ooo
ooo
oo
o
oo
o
oo
oo
o
o
o
oo
o
o
o
oo
o
o
o
ooo
o
oo
oo
o
o
oo
o
o
o
o
oooo
o
oo
o
oo
oo o
oo
ooo
o
o ooo
o
o
o
o
ooo
ooo
oo
o
o
oo
ooo
o
oo
o
o
o o
o
oo
o
o
o
oo
oo
o
oo
o ooo
o
o
oo
ooo
o o
oo
o
ooo
oo
ooo
oo
o
o
o
o
o oo
o
ooo
oo
o
o
ooo
o
oo o
o
oo
oooo
oo
o
o
o
oo
ooo
oooo
o
o
oooo
oo
o
o
oooo
ooo
o
o
o
oo
o
o
o
o
oo
oo
o
o
oo
oo
oo
ooo
o
o
ooo
oooo o
ooo
o
o
ooo
oo
o
o
oo
o
o
o
oo
o
o
oo
o
o
oo
oo
o
oo
o
oo
o
o
oooo
o
oo
oo
oo
oo
oo
o
o
oo
o
o o
o
oo
o
oo
oo
o
oo
oo
o
o
ooo
o
o
o
o
o
o
oo
oo
o
oo
o oo
oo
ooo
oo
o
oo
o
o ooo
o
oo
o
o
o
o
oo
ooooo
o
oo
o
o
o
o
o
o
o
oo
oo
oo
oo
o
o
ooo o
o
o
o
oo
o oo
oooo
oo
o
o
ooo
o
oo
o
ooo o
ooo
ooo
o
oo
oooooooo
oo
o
o
o
ooo
o
oo
o
oo
oooo
oooo
oo
2 6 10 14
oo
oo
o oo
o
o
oo
o
oo
oo oo
oo
o
oo
oo
oo
ooo
o oo
oo
o o
o
o
o
oo
o
o
o
oo
o
o
o
oo
oo
oo
oo
o
o
oo
o
o
o
o
oo oo
ooo
o
oo
ooo
oo
ooo
o
oo
oo
o
o
o
o
oo
o
oo
oo
o
o
o
oo
o ooo
o o
o
o
ooo
oo
o
o
o
oo
oo
o
oo
oooo
o
o
o
o
ooo
o o
o
o
o
ooo
oo
ooo
oo
o
o
o
o
o oo
o
ooo
oo
o
o
oo
o
o
oo o
o
oo
oo oo
oo
o
o
o
oo
oo
o
oooo
o
o
oooo
oo
o
o
ooo o
ooo
o
o
o
oo
o
o
o
o
oo
oo
oo
oo oo
oo
ooo
oo
ooo
oooooo
oo
o
o
ooo
ooo
o
oo
o
o
o
o o
o
o
oo
o
o
o
oo o
o
ooo
oo
o
o
ooo o
o
o o
oo
oo
oo
ooo
o
oo
o
oo
o
oo
o
o
o
oo
o
o
o
ooo
o
ooo
o
o
o
o
o
o
oo
o o
o
o o
ooo
oo
oo
o
oo
o
o
o
o
oooo
o
oo
o
o
o
o
oo
ooooo
o
oo
o
o
o
o
o
o
ooo
oo
oo
oo
o
o
oo
oo
o
o
o
oo
ooo
o o oo
oo
o
o
ooo
o
oo
o
o ooo
ooo
oo o
o
oo
oo ooooo o
oo
o
o
o
oooo
o o
o
oo
oo
o
o
o ooo
oo
oo
oooo
o
o
o
oo
o
oo
ooo ooo
o
oo
oo
ooo oo
oo
o
oo
oo
o
o
o
oo
o
o
o
oo
o
o
oo
oo
o
oo
oo
o
o
oo
o
o
o
o
oooo
o
oo
o
oo
o oo
oo
o oo
o
oooo
o
o
o
o
ooo
ooo
oo
o
o
oo
ooo
o
oo
o
o
ooo
oo
o
o
o
oo
oo
o
oo
o ooo
o
o
oo
o oo
oo
o
o
o
ooo
oo
ooo
oo
o
o
o
o
ooo
o
ooo
oo
o
o
oo
o
o
o oo
o
oo
oooo
oo
o
o
o
oo
ooo
oo oo
o
o
oooo
oo
o
o
oo oo
ooo
o
o
o
oo
o
o
o
o
oo
oo
oo
oooo
oo
oo o
oo
o oo
o oo ooo oo
o
o
ooo
o
oo
o
o o
o
o
o
oo
o
o
oo
o
o
o
ooo
o
ooo
oo
o
o
oooo
o
oo
oo
oo
oo
ooo
o
oo
o
oo
o
o o
o
o
o
ooo
o
o
oo
o
o
o oo
o
o
o
o
o
o
oo
oo
o
oo
ooo
oo
oo
o
oo
o
oo
o
oooo
o
o o
o
o
o
ooo
ooooo
o
oo
o
o
o
o
o
o
o
ooo
o
ooo
o
o
o
oo
oo
o
o
o
oo
ooooooooo
o
o
ooo
o
oo
o
oooo
ooo
oo o
o
oo
oooo oo oo
ooo
o
o
oo oo
oo
o
oo
oo
o
o
oooo
oo
15 25 35 45
oo
oo
oo
o
o
o
oo
o
oo
ooo
ooo
o
oooo
oo
ooo
oo
o
oo
o o
o
o
o
oo
o
o
o
oo
o
o
o
ooo
o
oo
oo
o
o
oo
o
o
o
o
oooo
oo
o
o
oo
ooo
oo
ooo
o
oo
oo
o
o
o
o
oo
o
ooo
o
o
o
o
oo
ooo
o
o o
o
o
ooo
oo
o
o
o
oo
oo
o
oo
o ooo
o
o
oo
ooo
oo
o
o
o
ooo
oo
ooo
oo
o
o
o
o
oo
o
o
ooo
oo
o
o
oo
o
o
oo o
o
oo
oo oo
oo
o
o
o
oo
oo
o
ooo o
oo
ooo o
oo
o
o
oo oo
ooo
o
o
o
oo
o
o
o
o
oo
oo
o
o
oooo
oo
ooo
oo
ooo
oooooooo
o
o
ooo
ooo
o
o o
o
o
o
oo
o
o
oo
o
o
oooo
o
o o
o
oo
o
o
o ooo
o
oo
o
o
oo
oo
oo
o
o
oo
o
oo
o
o o
o
o
o
oo
o
oo
ooo
o
o oo
o
o
o
o
o
o
oo
oo
o
oo
ooo
oo
ooo
oo
o
oo
o
oooo
o
oo
o
o
o
ooo
o oo
o o
o
oo
o
o
o
o
o
o
oo
oo
o
ooo
o
o
o
oo
oo
o
o
o
oooo o
oo oo
oo
o
o
o ooo
oo
o
oooo
oo
o
oo o
o
o o
oooooo oo
oo
o
o
o
oooo
oo
o
oo
oo
oo
oooo
oo
oo
o
oo
oo
o
o
oo
o
oo
ooo
ooo
o
oooooo
ooo
o o
o
oo
oo
o
o
o
oo
o
o
o
oo
o
o
o
oo
oo
oo
oo
o
o
ooo
o
o
o
oooo
oo
o
o
oo
oo o
oooo o
o
oooo
o
o
o
o
ooo
oooo
o
o
o
oo
ooo
o
oo
o
o
o oo
oo
o
o
o
oo
o
o
o
oo
oo o o
o
o
oo
ooo
oo
o
o
o
ooo
oo
ooo
oo
o
o
o
o
o o
o
o
ooo
ooo
o
ooo
o
ooo
o
oo
oooo
oo
o
o
o
oo
ooo
oooo
oo
o ooo
oo
o
o
oo oo
ooo
o
o
o
oo
o
o
o
o
oo
oo
o
o
oooo
o o
oo o
oo
ooo
ooooooo
o
o
o
o oo
o
oo
o
oo
o
o
o
oo
o
o
oo
o
o
oooo
o
ooo
oo
o
o
oooo
o
oo
oo
oo
oo
ooo
o
oo
o
oo
o
oo
o
o
o
oo
o
o
o
oo
o
o
ooo
o
o
o
o
o
o
oooo
o
oo
o oo
o o
oo
o
oo
o
oo
o
o oo o
o
o o
o
o
o
oo
o
ooooo
o
oo
o
o
o
o
o
o
o
ooo
o
oooo
o
o
oooo
o
o
o
oo
ooo
oooo
o o
o
o
o ooo
oo
o
oo o o
oo
o
oo o
o
oo
oooooooo
ooo
o
o
ooo
o
oo
o
oo
oo
oo
oo oo
oo
20 40 60
2040
60
age
11 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
12 / 29
Spam Detection
• data from 4601 emails sent to an individual (named George,at HP labs, before 2000). Each is labeled as spam or email.
• goal: build a customized spam filter.
• input features: relative frequencies of 57 of the mostcommonly occurring words and punctuation marks in theseemail messages.
george you hp free ! edu remove
spam 0.00 2.26 0.02 0.52 0.51 0.01 0.28email 1.27 1.27 0.90 0.07 0.11 0.29 0.01
Average percentage of words or characters in an email message equal
to the indicated word or character. We have chosen the words and
characters showing the largest di↵erence between spam and email.
13 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
14 / 29
15 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
16 / 29
17 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
18 / 29
20 40 60 80
5010
020
030
0
Age
Wag
e
2003 2006 200950
100
200
300
Year
Wag
e1 2 3 4 5
5010
020
030
0
Education Level
Wag
e
Income survey data for males from the central Atlantic regionof the USA in 2009.
19 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
20 / 29
Spectral Band 1 Spectral Band 2 Spectral Band 3
Spectral Band 4 Land Usage Predicted Land Usage
Usage 2 {red soil, cotton, vegetation stubble, mixture, gray soil, damp
gray soil}
21 / 29
The Supervised Learning Problem
Starting point:
• Outcome measurement Y (also called dependent variable,response, target).
• Vector of p predictor measurements X (also called inputs,regressors, covariates, features, independent variables).
• In the regression problem, Y is quantitative (e.g price,blood pressure).
• In the classification problem, Y takes values in a finite,unordered set (survived/died, digit 0-9, cancer class oftissue sample).
• We have training data (x1, y1), . . . , (xN , yN ). These areobservations (examples, instances) of these measurements.
22 / 29
Objectives
On the basis of the training data we would like to:
• Accurately predict unseen test cases.
• Understand which inputs a↵ect the outcome, and how.
• Assess the quality of our predictions and inferences.
23 / 29
Philosophy
• It is important to understand the ideas behind the varioustechniques, in order to know how and when to use them.
• One has to understand the simpler methods first, in orderto grasp the more sophisticated ones.
• It is important to accurately assess the performance of amethod, to know how well or how badly it is working[simpler methods often perform as well as fancier ones!]
• This is an exciting research area, having importantapplications in science, industry and finance.
• Statistical learning is a fundamental ingredient in thetraining of a modern data scientist.
24 / 29
Unsupervised learning
• No outcome variable, just a set of predictors (features)measured on a set of samples.
• objective is more fuzzy — find groups of samples thatbehave similarly, find features that behave similarly, findlinear combinations of features with the most variation.
• di�cult to know how well your are doing.
• di↵erent from supervised learning, but can be useful as apre-processing step for supervised learning.
25 / 29
The Netflix prize
• competition started in October 2006. Training data isratings for 18, 000 movies by 400, 000 Netflix customers,each rating between 1 and 5.
• training data is very sparse— about 98% missing.
• objective is to predict the rating for a set of 1 millioncustomer-movie pairs that are missing in the training data.
• Netflix’s original algorithm achieved a root MSE of 0.953.The first team to achieve a 10% improvement wins onemillion dollars.
• is this a supervised or unsupervised problem?
26 / 29
BellKor’s Pragmatic Chaos wins, beating The Ensemble by anarrow margin.
27 / 29
Statistical Learning versus Machine Learning
• Machine learning arose as a subfield of ArtificialIntelligence.
• Statistical learning arose as a subfield of Statistics.• There is much overlap — both fields focus on supervisedand unsupervised problems:
• Machine learning has a greater emphasis on large scaleapplications and prediction accuracy.
• Statistical learning emphasizes models and theirinterpretability, and precision and uncertainty.
• But the distinction has become more and more blurred,and there is a great deal of “cross-fertilization”.
• Machine learning has the upper hand in Marketing!
28 / 29