av一区二区在线观看_亚洲男人的天堂网站_日韩亚洲视频_在线成人免费_欧美日韩精品免费观看视频_久草视

您的位置:首頁技術文章
文章詳情頁

Python jieba結巴分詞原理及用法解析

瀏覽:2日期:2022-07-06 11:58:45

1、簡要說明

結巴分詞支持三種分詞模式,支持繁體字,支持自定義詞典

2、三種分詞模式

全模式:把句子中所有的可以成詞的詞語都掃描出來, 速度非常快,但是不能解決歧義

精簡模式:把句子最精確的分開,不會添加多余單詞,看起來就像是把句子分割一下

搜索引擎模式:在精簡模式下,對長詞再度切分

# -*- encoding=utf-8 -*-import jiebaif __name__ == ’__main__’: str1 = ’我去北京天安門廣場跳舞’ a = jieba.lcut(str1, cut_all=True) # 全模式 print(’全模式:{}’.format(a)) b = jieba.lcut(str1, cut_all=False) # 精簡模式 print(’精簡模式:{}’.format(b)) c = jieba.lcut_for_search(str1) # 搜索引擎模式 print(’搜索引擎模式:{}’.format(c))

運行

Python jieba結巴分詞原理及用法解析

3、某個詞語不能被分開

# -*- encoding=utf-8 -*-import jiebaif __name__ == ’__main__’: str1 = ’桃花俠大戰菊花怪’ b = jieba.lcut(str1, cut_all=False) # 精簡模式 print(’精簡模式:{}’.format(b)) # 如果不把桃花俠分開 jieba.add_word(’桃花俠’) d = jieba.lcut(str1) # 默認是精簡模式 print(d)

運行

Python jieba結巴分詞原理及用法解析

4、 某個單詞必須被分開

# -*- encoding=utf-8 -*-import jiebaif __name__ == ’__main__’: # HMM參數,默認為True ’’’HMM 模型,即隱馬爾可夫模型(Hidden Markov Model, HMM),是一種基于概率的統計分析模型, 用來描述一個系統隱性狀態的轉移和隱性狀態的表現概率。 在 jieba 中,對于未登錄到詞庫的詞,使用了基于漢字成詞能力的 HMM 模型和 Viterbi 算法, 其大致原理是: 采用四個隱含狀態,分別表示為單字成詞,詞組的開頭,詞組的中間,詞組的結尾。 通過標注好的分詞訓練集,可以得到 HMM 的各個參數,然后使用 Viterbi 算法來解釋測試集,得到分詞結果。 ’’’ str1 = ’桃花俠大戰菊花怪’ b = jieba.lcut(str1, cut_all=False, HMM=False) # 精簡模式,且不使用HMM模型 print(’精簡模式:{}’.format(b)) # 分開大戰為大和戰 jieba.suggest_freq((’大’, ’戰’), True) e = jieba.lcut(str1, HMM=False) # 不使用HMM模型 print(’分開:{}’.format(e))

運行

Python jieba結巴分詞原理及用法解析

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持好吧啦網。

標簽: Python 編程
相關文章:
主站蜘蛛池模板: www亚洲| 日韩精品在线一区二区 | 国产91在线观看 | 欧美在线免费观看视频 | 中国特级毛片 | 91插插插插插 | 免费av网站在线观看 | 国产精品国产精品国产专区不卡 | 免费国产视频 | 国产一级免费视频 | 免费观看全黄做爰大片视频美国 | 亚洲精品免费看 | 黄色在线观看网址 | 免费看黄色小视频 | 欧美激情网址 | 久草网站| 中文字幕在线看片 | 一本色道久久综合亚洲精品酒店 | 天天色天天| 99热国产| 99精品视频免费观看 | 国产精品国产三级国产aⅴ浪潮 | 国产精品6| 黄色一级视频网站 | 成人午夜视频在线观看 | 国产肉体xxxx裸体784大胆 | 日韩在线小视频 | 中文字幕亚洲欧美 | 天天干天天操天天干 | 欧美a级成人淫片免费看 | 一级黄色大片 | 日韩毛片视频 | 97av在线| 免费观看a级片 | 久久人人爱| 日韩精品久久久久久久酒店 | 日本福利视频 | 伊人免费视频 | 成人免费视频国产免费麻豆 | 九色网址 | 精品国产三级 |