| 微軟 | Nvidia | AI | 自然語言

微軟與Nvidia發表全球最大含5,300億個參數的AI語言模型

最新的自然語言模型MT-NLG,規模是目前最大語言模型的3倍,能夠準確地解決過去語言模型苦手的任務

2021-10-13

| AWS | BI | 自然語言 | Amazon QuickSight Q | 商業智慧 | 資料分析 | 低程式碼視覺工具

AWS商業智慧服務新功能QuickSight Q,讓用戶以自然語言進行資料分析

即便沒有技術背景的使用者,也可以利用QuickSight Q,使用自然語言對資料進行查詢,並獲得精確的視覺化解答

2021-09-26

| AI | RL | 獎勵機制 | 通用AI | DeBERTa | 自然語言 | AI監管 | 臉書 | IT周報

AI趨勢周報第155期:不求獎勵的RL代理就更像人類嗎?Google Brain告訴你

Google Brain聯手多倫多大學和Vector研究院,用3種常見的人類學習機制,來探討AI是否不需任務獎勵,只靠Intrinsic objective就能探索環境、找出最佳解法;微軟NLU模型DeBERTa超越人類表現,「離通用AI更近了」;臉書發起Open Loop計畫,號召全球政策制定者和科技公司加入,來研擬恰當的AI法規。

2021-01-14

| AI | OpenAI | 預訓練模型 | 自然語言 | Nvidia | IT周報

AI趨勢周報第154期:OpenAI零樣本學習新作CLIP,不靠128萬樣本就完勝ResNet50

OpenAI不僅發表號稱是GPT-3翻版的圖像生成模型DALL·E,也同時發布一套文字和圖像預訓練模型CLIP,可根據自然語言來學習視覺概念。特別的是,使用者只需提供圖像類別名稱,就可直接將CLIP用於任何影像分類的基準測試(Benchmark),無須特別優化。

 
 
 
 

2021-01-07

| 自然語言 | 自動定理證明 | BERT | 語音辨識 | 邊緣裝置 | AI | IT周報

AI趨勢周報第142期:推理能力新突破!OpenAI新作GPT-f能自動證明數學定理

OpenAI先前才釋出具1,750億個參數的超大自然語言預訓練模型GPT-3,最近又發表一款模型GPT-f,能以形式化語言Metamath自動證明數學定理;另一方面,Nviida日前在醫療影像醫器學習年會中,揭露一套醫療語音辨識模型Bio-Megatron,可聽懂病患說出的臨床單字,並對應到標準化的健康資料庫中。

2020-09-17

| AI | 自然語言 | CodeBERT | 微軟 | Deepmind | 強化學習 | AI2 | 電腦視覺 | 口罩辨識 | google | 虛擬客服 | CapsNet | 極端天氣 | 甲骨文

AI趨勢周報第121期:通吃自然語言和程式語言!微軟發表CodeBERT模型讓程式碼搜尋更便利

微軟亞洲研究院發表CodeBERT模型,可理解自然語言和6種程式語言,包括Ruby、Java、JavaScript、Python、Go、PHP等,能用自然語言來查詢程式碼,也可以建立程式碼文檔;另一方面,DeepMind釋出兩款JAX函式庫Haiku和RLax,要來提升強化學習的實作;而由微軟共同創辦人成立的艾倫AI研究院AI2,發表了電腦視覺模型評比工具

2020-02-27

| 微軟 | Nvidia | T-NLG | AI | 語言產生模型 | 神經語言 | 自然語言

軟硬體技術突破,微軟建立擁有高達170億個參數的語言產生模型

除了Nvidia的硬體技術支援,微軟使用了DeepSpeed訓練加速函式庫與ZeRO記憶體最佳化方法,大幅提升模型訓練效率

2020-02-11

| AI | google | ALBERT | 自然語言 | AsicNet | 工研院 | AI相機 | CES | AI平臺 | 開發板 | AIoT | 華碩 | AI家電

AI趨勢周報第117期:Google開源第二代自然語言模型ALBERT,加碼釋出ALBERT中文模型

Google日前開源第二代自然語言預訓練模型ALBERT v2,在多項NLU基準測試上,第二代表現幾乎都比第一代高。同時,Google團隊也一併開源中文版ALBERT。另一方面,工研院利用自行設計的AsicNet卷積網路來打造邊緣AI相機,可24小時辨識寶寶表情和行為,比如吐奶、口鼻是否遮蔽等,準確率達95%以上,於今年度CES上展出。

2020-01-09

| 臉書 | BERT | 電腦視覺 | 自然語言 | 國發會 | 景氣 | AI科技基金 | 面試 | google | 語音轉文字 | 中原大學 | 智慧農業 | AI | IT周報

AI趨勢周報第115期:12合一!臉書AI研究院用一套ViLBERT模型,搞定不同類型資料集的ML訓練任務

臉書AI研究院日前聯手喬治亞理工學院、奧勒岡州立大學,用12個資料集訓練一套ViLBERT模型,不只可用來解決不同類型的電腦視覺與自然語言任務,參數還從30億個減少至2.7億個,準確度平均提升2分。另一方面,為更精準掌握景氣循環,國發會研擬開發一套景氣循環AI預警系統。此外,由國發會成率領民間團體成立的國家級投資公司台杉投資,明年計畫成立AI科技基金,同時要吸引國外AI技術團隊在臺成立研發中心。

2019-12-27

| AI | 微軟 | 語音合成 | google | AutoML | 自然語言 | PDF | Nvidia | TensorRT | 推論 | 萊迪思 | 28奈米 | FPGA | IT周報

AI趨勢周報第114期:快又不漏字!微軟發表FastSpeech能更快產生逼真自然的語音

微軟發表FastSpeech仿真語音生成模型,可快速產生逼真的人類語音,解決語音合成速度緩慢的痛點。Google正式推出AutoML Natural Language,新增了PDF語意理解功能,還可支援5,000個分類標籤,訓練資料量最多可支援1百萬筆文件。Nvidia發表新一代深度學習加速的SDK TensorRT 7,透過優化的編譯器,來加速迴歸和Transformer模型的推論,比傳統CPU快10倍以上。

 

2019-12-19

| GitHub | 程式碼 | 自然語言 | 搜尋 | AI

GitHub發布CodeSearchNet語料庫以及挑戰賽,推動自然語言程式碼搜尋技術發展

GitHub為自然語言程式碼搜尋建立了基準模型,同時提供CodeSearchNet挑戰賽排行榜,讓研究人員競爭語義程式碼搜尋技術成果

2019-10-01

| google | 數位助理 | 自然語言 | 資料集 | AI

Google釋出兩神經語言對話資料集

Google強調自家資料集中的對話,保留了人類口語的特徵,可用於提升使用者與數位助理的對話品質

2019-09-10