Programming Collective Intelligence

按有用程度 按页码先后 最新笔记

• 

  第296页

  candy

  总结书中提到的各种分类算法： 朴素贝叶斯（naïve Bayesian）： 优点：速度快，支持增量训练，易于理解 缺点：无法解决特征组合的情况 The biggest downside to naïve Bayesian classifiers is their inability to deal with outcomes that change based on combinations of features. Imagine the following scenario in which you are trying to distinguish spam from nonspam email: let’s... (更多)

  总结书中提到的各种分类算法：

  朴素贝叶斯（naïve Bayesian）：

  优点：速度快，支持增量训练，易于理解

  缺点：无法解决特征组合的情况

  The biggest downside to naïve Bayesian classifiers is their inability to deal with outcomes that change based on combinations of features. Imagine the following scenario in which you are trying to distinguish spam from nonspam email: let’s say your job is building web applications, so the word “online” frequently appears in your work-related email. Your best friend works at a pharmacy and likes sending you funny stories about things that happen to him at work. Also, like most people who haven’t closely guarded their email addresses, you occasionally receive spam containing the words “online pharmacy.” You can probably see the dilemma here already—the classifier is constantly being told that “online” and “pharmacy” exist in nonspam email messages, so their proba- bilities become higher for nonspam. When you tell the classifier that a certain email message with the words “online pharmacy” is spam, those words are adjusted slightly more toward spam, creating a constant battle. Since features are all given probabilities separately, the classifier can never learn about combinations. In document classification this is usually not a big deal, since an email message with the words “online pharmacy” probably contains other spam indicators, but in other problems, understanding feature combinations can be much more important.

  决策树（Decision Tree）：

  优点：速度快，易于理解，接受数值型数据，可以回归，能够处理特征之间的相互影响

  缺点：不支持增量训练

  神经网络（Neural Network）：

  优点：支持增量训练，接受数值型数据，能够处理特征之间的相互影响，能够处理复杂的非线性函数

  缺点：不易理解，训练数据比例难以控制

  支持向量机（Support-Vector Machines）：

  优点：分类速度快，接受数值型数据

  缺点：不易理解，参数需要不断尝试

  K-最近邻（k-Nearest Neighbors）：

  优点：能够利用复杂函数预测，易于理解，知道各个样本的重要程度，添加样本不需要重新训练

  缺点：低效，需要缩放特征值 (收起)

  2011-05-10 15:26:11   2人收藏   回应

  收藏

  推荐
• 

  CHAPTER2

  小达达

  根据人和人“趣味”的相似性将人聚类，然后给“趣味”相似的人们推荐电影·音乐等等。 Collaborative Filtering 目标：找到那些趣味和我相似的人们 Collecting Preference 取得人们对某样东西的喜好，将喜好的程度量化。 Finding Similar Users 目标：确定人和人之间“趣味”的相似性，并给这种相似性打分(similarity score)。 Euclidean distance 算人在preference space的欧几里德距离，距离小的相似度.. (更多)

  根据人和人“趣味”的相似性将人聚类，然后给“趣味”相似的人们推荐电影·音乐等等。

  Collaborative Filtering

  目标：找到那些趣味和我相似的人们

  Collecting Preference

  取得人们对某样东西的喜好，将喜好的程度量化。

  Finding Similar Users

  目标：确定人和人之间“趣味”的相似性，并给这种相似性打分(similarity score)。

  Euclidean distance

  算人在preference space的欧几里德距离，距离小的相似度高。Preference space的每一维代表一种物品。

  参考维基百科：相关。

  皮尔森相关系数

  两个变量的关系可以直观地用散点图表示，当其紧密地群聚于一条直线的周围时，变量间存在强相关。定义为两个变量协方差除以两个变量的标准差。

  Recommending Items

  生成推荐作品的过程中要解决好两个问题：

  1. 那些和你趣味最相似的人们并未都看过都看过同一部电影，这样的一部电影可能是部好电影，也要被公平的打分。

  2. 有部电影的分数被某个人打的很高，但是大家的意见和他相反。这种“例外”的影响要被削弱。 (收起)

  2011-09-06 20:21:15   回应

  收藏

  推荐
• 

  Chapter 1

  jimmy (Kindle 3 !)

  第一章前几节讲推荐，推荐的前提是要计算相似度，介绍了两种计算相似度的简单方法，Python代码不难看懂，总体感觉不错。 暂时还未见到公式，虽然看到公式大家都烦，但要承认一点，简单清晰的公式胜过巨细无遗的文字介绍。现在看代码，反而要反过来想公式是怎样的。作者的目的可能是便于读者理解，感觉稍有点过。 (更多)

  第一章前几节讲推荐，推荐的前提是要计算相似度，介绍了两种计算相似度的简单方法，Python代码不难看懂，总体感觉不错。

  暂时还未见到公式，虽然看到公式大家都烦，但要承认一点，简单清晰的公式胜过巨细无遗的文字介绍。现在看代码，反而要反过来想公式是怎样的。作者的目的可能是便于读者理解，感觉稍有点过。 (收起)

  2012-02-05 00:17:21   回应

  收藏

  推荐

• 

  第11页

  candy

  Pearson Correlation Score A slightly more sophisticated way to determine the similarity between people’s inter- ests is to use a Pearson correlation coefficient. The correlation coefficient is a mea- sure of how well two sets of data fit on a straight line. The formula for this is more complicated than the Euclidean distance score, but it tends to give better results in situations where the ... (更多)

  Pearson Correlation Score A slightly more sophisticated way to determine the similarity between people’s inter- ests is to use a Pearson correlation coefficient. The correlation coefficient is a mea- sure of how well two sets of data fit on a straight line. The formula for this is more complicated than the Euclidean distance score, but it tends to give better results in situations where the data isn’t well normalized—for example, if critics’ movie rank- ings are routinely more harsh than average.

  Pearson Correlation Score 在数据不是很规范的情况下（某人的评价准则明显比平均水平苛刻或是宽松），表现良好。 (收起)

  2011-04-18 14:02:27   回应

  收藏

  推荐
• 

  第30页

  crackcell (searching the web)

  collaborative filtering： 1. collect users' preferences 2. cluster users, find a small set similar to yourself - euclidean distance - person correlation - and more & better ? 3. make recommendations from selected users (更多)

  collaborative filtering：

  1. collect users' preferences

  2. cluster users, find a small set similar to yourself

  - euclidean distance

  - person correlation

  - and more & better ?

  3. make recommendations from selected users (收起)

  2011-03-12 15:05:02   回应

  收藏

  推荐
• 

  第46页

  candy

  /代码内容已省略/ items=[re.sub(chare,'',a.contents[0].lower()).strip() for a in td('a')] 这句代码中用到了Python的re模块的sub函数，该函数说明如下： re.sub(pattern, repl, string[, count, flags]) Return the string obtained by replacing the leftmost non-overlapping occurrences of pattern in string by the replacement repl. If the pattern isn’t found, string is re... (更多)

  from BeautifulSoup import BeautifulSoup
  import urllib2
  import re
  chare=re.compile(r'[!-\.&]')
  itemowners={}
  # Words to remove
  dropwords=['a','new','some','more','my','own','the','many','other','another']
  currentuser=0
  for i in range(1,51):
    # URL for the want search page
    c=urllib2.urlopen(
    'http://member.zebo.com/Main?event_key=USERSEARCH&wiowiw=wiw&keyword=car&page=%d'
    % (i))
    soup=BeautifulSoup(c.read())
    for td in soup('td'):
      # Find table cells of bgverdanasmall class
      if ('class' in dict(td.attrs) and td['class']=='bgverdanasmall'):
        items=[re.sub(chare,'',a.contents[0].lower()).strip() for a in td('a')]
        for item in items:
          # Remove extra words
          txt=' '.join([t for t in item.split(' ') if t not in dropwords])
          if len(txt)<2: continue
          itemowners.setdefault(txt,{})
          itemowners[txt][currentuser]=1
        currentuser+=1
  

  items=[re.sub(chare,'',a.contents[0].lower()).strip() for a in td('a')]

  这句代码中用到了Python的re模块的sub函数，该函数说明如下：

  re.sub(pattern, repl, string[, count, flags])

  Return the string obtained by replacing the leftmost non-overlapping occurrences of pattern in string by the replacement repl. If the pattern isn’t found, string is returned unchanged. repl can be a string or a function; if it is a string, any backslash escapes in it are processed. That is, \n is converted to a single newline character, \r is converted to a linefeed, and so forth. Unknown escapes such as \j are left alone. Backreferences, such as \6, are replaced with the substring matched by group 6 in the pattern. (收起)

  2011-04-06 17:11:09   回应

  收藏

  推荐

• 

  Chapter 1

  jimmy (Kindle 3 !)

  第一章前几节讲推荐，推荐的前提是要计算相似度，介绍了两种计算相似度的简单方法，Python代码不难看懂，总体感觉不错。 暂时还未见到公式，虽然看到公式大家都烦，但要承认一点，简单清晰的公式胜过巨细无遗的文字介绍。现在看代码，反而要反过来想公式是怎样的。作者的目的可能是便于读者理解，感觉稍有点过。 (更多)

  第一章前几节讲推荐，推荐的前提是要计算相似度，介绍了两种计算相似度的简单方法，Python代码不难看懂，总体感觉不错。

  暂时还未见到公式，虽然看到公式大家都烦，但要承认一点，简单清晰的公式胜过巨细无遗的文字介绍。现在看代码，反而要反过来想公式是怎样的。作者的目的可能是便于读者理解，感觉稍有点过。 (收起)

  2012-02-05 00:17:21   回应

  收藏

  推荐
• 

  CHAPTER2

  小达达

  根据人和人“趣味”的相似性将人聚类，然后给“趣味”相似的人们推荐电影·音乐等等。 Collaborative Filtering 目标：找到那些趣味和我相似的人们 Collecting Preference 取得人们对某样东西的喜好，将喜好的程度量化。 Finding Similar Users 目标：确定人和人之间“趣味”的相似性，并给这种相似性打分(similarity score)。 Euclidean distance 算人在preference space的欧几里德距离，距离小的相似度.. (更多)

  根据人和人“趣味”的相似性将人聚类，然后给“趣味”相似的人们推荐电影·音乐等等。

  Collaborative Filtering

  目标：找到那些趣味和我相似的人们

  Collecting Preference

  取得人们对某样东西的喜好，将喜好的程度量化。

  Finding Similar Users

  目标：确定人和人之间“趣味”的相似性，并给这种相似性打分(similarity score)。

  Euclidean distance

  算人在preference space的欧几里德距离，距离小的相似度高。Preference space的每一维代表一种物品。

  参考维基百科：相关。

  皮尔森相关系数

  两个变量的关系可以直观地用散点图表示，当其紧密地群聚于一条直线的周围时，变量间存在强相关。定义为两个变量协方差除以两个变量的标准差。

  Recommending Items

  生成推荐作品的过程中要解决好两个问题：

  1. 那些和你趣味最相似的人们并未都看过都看过同一部电影，这样的一部电影可能是部好电影，也要被公平的打分。

  2. 有部电影的分数被某个人打的很高，但是大家的意见和他相反。这种“例外”的影响要被削弱。 (收起)

  2011-09-06 20:21:15   回应

  收藏

  推荐
• 

  第307页

  candy

  优化算法总结： 模拟退火（Simulated Annealing）： 由一个随机推测开始，初始阶段容易接受更差的解，随着迭代次数的增加，越来越不能接受，在这里接受的概率即温度，当温度为0时迭代结束 由一组随机推测开始，将最优的推测进行改变或组合，在达到某个阈值后结束 (更多)

  优化算法总结：

  模拟退火（Simulated Annealing）：

  由一个随机推测开始，初始阶段容易接受更差的解，随着迭代次数的增加，越来越不能接受，在这里接受的概率即温度，当温度为0时迭代结束

  由一组随机推测开始，将最优的推测进行改变或组合，在达到某个阈值后结束 (收起)

  2011-05-10 16:23:19   回应

  收藏

  推荐