コード例 #1
0
ファイル: preprocessor.py プロジェクト: mikaelbr/tweetsa
def remove_noise(text):
  text = f.no_url(text)
  text = f.no_usernames(text)
  text = f.no_hash(text)
  text = f.no_rt_tag(text)
  text = f.reduce_letter_duplicates(text)
  return text
コード例 #2
0
ファイル: preprocessor.py プロジェクト: mikaelbr/tweetsa
def method2(text):
  text = f.no_url(text)
  text = f.no_usernames(text)
  text = f.reduce_letter_duplicates(text)
  # text = p.remove_stopwords(text, ['not'])
  text = p.negation_attachment(text)
  return text
コード例 #3
0
ファイル: preprocessor.py プロジェクト: mikaelbr/tweetsa
def method2(text):
    text = f.no_url(text)
    text = f.no_usernames(text)
    text = f.reduce_letter_duplicates(text)
    # text = p.remove_stopwords(text, ['not'])
    text = p.negation_attachment(text)
    return text
コード例 #4
0
ファイル: preprocessor.py プロジェクト: mikaelbr/tweetsa
def remove_noise(text):
    text = f.no_url(text)
    text = f.no_usernames(text)
    text = f.no_hash(text)
    text = f.no_rt_tag(text)
    text = f.reduce_letter_duplicates(text)
    return text
コード例 #5
0
def remove_noise(text):
  text = f.no_url(text)
  text = f.no_usernames(text)
  text = f.hash_as_normal(text)
  text = f.no_rt_tag(text)
  text = f.reduce_letter_duplicates(text)
  # text = p.negation_attachment(text)
  return text
コード例 #6
0
def remove_noise(text):
    text = f.no_url(text)
    text = f.no_usernames(text)
    text = f.hash_as_normal(text)
    text = f.no_rt_tag(text)
    text = f.reduce_letter_duplicates(text)
    # text = p.negation_attachment(text)
    return text
コード例 #7
0
def all(text):
  text = text.lower()
  text = f.no_url(text)
  text = f.no_usernames(text)
  text = f.no_emoticons(text)
  text = f.no_hash(text)
  text = f.no_rt_tag(text)
  text = f.reduce_letter_duplicates(text)
  text = p.negation_attachment(text)

  return text
コード例 #8
0
def all(text):
    text = text.lower()
    text = f.no_url(text)
    text = f.no_usernames(text)
    text = f.no_emoticons(text)
    text = f.no_hash(text)
    text = f.no_rt_tag(text)
    text = f.reduce_letter_duplicates(text)
    text = p.negation_attachment(text)

    return text
コード例 #9
0
ファイル: example.py プロジェクト: mikaelbr/tweetsa
def add_filters (text):
  text = f.no_url(text)
  # text = f.username_placeholder(text)
  text = f.no_usernames(text)
  # text = f.no_emoticons(text)
  text = f.no_hash(text)
  # text = f.no_rt_tag(text)
  text = f.reduce_letter_duplicates(text)
  # text = p.remove_stopwords(text, ['not'])
  text = p.negation_attachment(text)

  return text
コード例 #10
0
ファイル: example.py プロジェクト: mikaelbr/tweetsa
def add_filters(text):
    text = f.no_url(text)
    # text = f.username_placeholder(text)
    text = f.no_usernames(text)
    # text = f.no_emoticons(text)
    text = f.no_hash(text)
    # text = f.no_rt_tag(text)
    text = f.reduce_letter_duplicates(text)
    # text = p.remove_stopwords(text, ['not'])
    text = p.negation_attachment(text)

    return text
コード例 #11
0
def no_url_usernames_reduced_attached(text):
  text = f.no_url(text)
  text = f.no_usernames(text)
  text = f.reduce_letter_duplicates(text)
  text = p.negation_attachment(text)
  return text
コード例 #12
0
def reduced_attached(text):
  text = f.reduce_letter_duplicates(text)
  text = p.negation_attachment(text)
  return text
コード例 #13
0
    def test_reduce_letter_duplicates(self):
        tmp = f.reduce_letter_duplicates(self.text)
        self.assertEqual(tmp, "Oooh myyy goood, @username!!! :D :) This is #amazing: http://someurl.com/fdhsiufds?dsads=dsa".lower())

        t1 = f.reduce_letter_duplicates('My gooooooooooooooooooooood')
        self.assertEqual(t1, 'My goood'.lower())
コード例 #14
0
def no_url_usernames_reduced_attached(text):
    text = f.no_url(text)
    text = f.no_usernames(text)
    text = f.reduce_letter_duplicates(text)
    text = p.negation_attachment(text)
    return text
コード例 #15
0
def reduced_attached(text):
    text = f.reduce_letter_duplicates(text)
    text = p.negation_attachment(text)
    return text