Pantograph

メニュー

Pantograph Blogインターネットに関するイロイロを共有するブログ

眼鏡型ウェアラブルデバイスを活用した遠隔ガイドシステム「guide glass」を開発しました

  • このエントリーをはてなブックマークに追加
ウェアラブル

 

弊社では今年からIoT、ウェアラブルデバイスへの取り組みを本格化しておりますが、先んじて昨年から眼鏡型ウェアラブルデバイスを活用したサービスの検討とアプリの開発に着手をし、これまで取り組んで参りました。
その取り組みの成果としてプロトタイプが完成しましたので、今回の記事ではそのご紹介をしたいと思います。
その名も「guide glass」といい、文字どおり眼鏡型ウェアラブルデバイスを活用した遠隔ガイドシステムです。
サービスとして提供できる段階にはまだ至っておりませんが、まずは、現状のその機能や開発の経緯などを以下にご紹介させていただきます。

尚、今回の発表に合わせ、「guide glass」のコンセプトや機能を紹介した特設サイトを公開しました。こちらも併せてご覧いただければと思います。

 

「guide glass」のコンセプト

今回プロトタイプを開発した「guide glass」ですが、先にも書いたとおり眼鏡型ウェアラブルデバイスによる遠隔ガイド/サポートシステムとなります。眼鏡型デバイスを装着した人が、その視野の情報と位置情報を他者と共有することで、自分の周りの状況に関する案内や説明を受けることができるプロダクトです。
離れた場所にいる人と自分の視野を共有することで、その人に自分の目の代わりとなってもらうことができる仕組みと言えます。

 

 

もともと私たちがこのプロダクトの主な利用用途として考えたのが、視覚障害者の遠隔サポートでした。ですので、目の見えない人が屋外で困っているときにその手助けをするという目的を果たすために必要な要素は何か、という観点から機能の検討を始めました。

世の中のいろいろな課題や、人々が困っていることに対してIT技術を活用して解決するということを考えたときに、すべてのことをそのソリューション単独で自動的に成し遂げられることが、もしかしたら理想的かもしれません。しかし、目の不自由な人をサポートするという目的を考えたときに、その人がその時々で置かれている多様な状況を判断して適切にサポートするためには、そこに人が介在した方が安心なのではないかと私たちは考えました。
そうした考えから、眼鏡型デバイスを装着した人と遠隔にいる人をつなぎ、両者のコミュニケーションを通じて手助けをする、という仕組みにすることとしました。

このコミュニケーションを実現し、状況に応じた適切な判断をするための要素としては、?その人が今どこにいるのかを知ること、?その人が今どういう状況にあるかを知ること、?その場所や状況に関してリアルタイムで情報交換ができること、の3つが最低限必要であると考え、機能として盛り込むべく設計しました。

 

なぜ眼鏡型ウェアラブルデバイスなのか

私たちは今回の「guide glass」の開発にあたり、眼鏡型ウェアラブルデバイスの利用を前提としました。
なぜそうしたかといいますと、それは視覚障害者の人たちの日常生活、特に外出時の状況を考えたときに、眼鏡型ウェアラブルデバイスが持つ特性がまさにそうした状況に最適だと考えたからです。

みなさんもご存じだと思いますが、視覚障害者は外出時に必ず白杖を持ちます。この白杖は、歩行時に自分の前方の障害物や危険を認識して安全を確保するため、歩道の段差や切れ目など歩行に必要な情報を得るため、周りの人に自分の存在を知らせ注意喚起するために利用されています。ですので、視覚障害者は外出の際は必ず白杖を携行し、そのために片方の手は塞がれてしまいます。
また、人によっては盲導犬を連れている場合もありますし、雨天の場合は傘をさすために、外出時に両手が塞がれてしまうことが多分にあります。

そうした状況を考えたときに、手に持たずとも使える眼鏡型デバイスの利用こそがまさに最適であると考え、その利用を前提とした仕組みにすることとしました。
今回の「guide glass」のプロトタイプはグーグルグラスをベースに開発しましたが、カメラが搭載されていることにより撮影が可能であること、GPSの活用により位置情報を取得できること、マイクとスピーカーが搭載されていることにより会話コミュニケーションが可能であることから、先の3つの目的を果たすための要件を満たしていることに加え、音声コマンドによる端末操作が可能なので、両手が塞がれていても操作できる点において、初期プロトタイプ開発には最適なデバイスでした。

 

「guide glass」の機能

それでは、今回開発した「guide glass」の主な機能についてご紹介します。
先のとおり、「guide glass」は、装着した眼鏡型デバイスから発信される各種情報を他者と共有しながらコミュニケーションすることを前提としていますので、眼鏡型デバイスを装着したユーザーと、そこからの情報を受け取る側のユーザーそれぞれが利用するための機能を実装しています。

情報を受け取る側のユーザー向けはマルチデバイスに対応しており、PCのウェブブラウザでの利用、または専用アプリをインストールしたスマートフォンないしタブレットでの利用が可能となっています。
先の視覚障害者が利用するケースで言えば、視覚障害者は眼鏡型デバイスを装着して外出し、一方晴眼者でサポートする側(以下「サポート側」)の人は自宅であればPCを利用し、外出中であればスマートフォンないしタブレットを利用する、といった使い分けも可能です。

サポート側 画面イメージ

眼鏡型デバイス側とサポート側は予めアカウントを登録し、それぞれのアカウントを連絡先として予め設定しておくことにより、双方間で通信することが可能となります。相手との通信は、眼鏡型デバイス側あるいはサポート側のいずれかが連絡先として設定されている相手を選んで発信し、着信したもう片方の相手が応答することにより開始され、その時点から各種情報の共有とコミュニケーションが始まります。

 

■ 視野の共有

視野の共有は、眼鏡型デバイスの前面に搭載されたカメラが一定間隔(最短1秒置き)で前方を撮影し、その撮影した画像をサポート側に送信することで行われます。画像を受け取ったサポート側では、使用しているデバイス(PC、スマートフォン、タブレット)の画面上に画像が表示され、定期的な画像の受信に応じて表示画像は更新されます。
画像は一定間隔で受信され表示されるので、サポート側はほぼリアルタイムで眼鏡型デバイス側の視野を確認することができます。

また、眼鏡型デバイス側の画像撮影・送信は、一定間隔での自動撮影・送信モードと手動による単発の撮影・送信モードを切り替えることができます。モードの切り替えは、眼鏡型デバイス(グーグルグラス)側面のタッチパッドを1回タップすることで行います。
モードの切り替え機能は、自動で常時視野を共有する必要がないときや、あるいは一時的に視野の共有をしたくない場合などに対応した機能となります。

 

■ 現在地の共有

眼鏡型デバイスは、通信中はGPSによる現在の位置情報を常にサポート側に発信しています。サポート側では、画面に表示された地図上で眼鏡型デバイス装着者の現在地を確認することができます。
また、眼鏡型デバイスは、位置情報とともに現在向いている方位の情報も常にサポート側に発信しており、サポート側では、同じく画面に表示された地図上で、眼鏡型デバイス装着者が現在向いている方角を確認することができます。

サポート側には地図の表示とともにルート検索の機能を実装しています。眼鏡型デバイス装着者の現在地が出発点として設定され、目的地を入力することにより、眼鏡型デバイス装着者の現在地から目的地までの歩行ルートが地図上に表示されます。

現在位置と向いている方角がサポート側と共有されることにより、サポート側では先の視野の共有と併せて眼鏡型デバイス装着者の現在の状況を的確に判断する材料として活用することができ、またルート検索機能も併せて利用することで、遠隔からでも最適かつ正確にガイドすることが可能となります。

 

■ 音声通話

先に紹介したとおり、「guide glass」は眼鏡型デバイス装着者とサポート側との間の人的コミュニケーションを前提としており、このコミュニケーションの部分を担うのが音声通話機能です。

眼鏡型デバイスとサポート側デバイス間の通信が開始されると通話も開始され、会話によるコミュニケーションが可能となります。
眼鏡型デバイス側は、ハンズフリーというその利点を生かして、両手が塞がっている状況でも遠隔にいるサポート側と会話をすることができ、自分の困っている状況や知りたいことをサポート側にことばで伝えることができます。
一方サポート側も、遠隔地に居ながら、眼鏡型デバイス装着者の視野情報と位置情報を確認して、その時々の状況に応じた案内や説明を会話によってリアルタイムで行うことができます。

 

利用シーンの広がり

 

以上、簡単に「guide glass」の機能を紹介させていただきました。
冒頭にも触れたとおり、「guide glass」は視覚障害者のサポート手段の検討を出発点としています。そこから、眼鏡型ウェアラブルデバイスを活用することや、会話によるコミュニケーションをベースにするという方向に企画が膨らんでいきました。そして、こうして企画が膨らんでいく過程で、眼鏡型ウェアラブルデバイスによる視野と位置の共有と会話によるコミュニケーションという解決策が、視覚障害者のサポートだけではなく、他の課題解決にも役立てることができるのではないかと私たちは考えました。

例えば、旅行者の観光ガイド。旅行者の視野と現在地が共有されれば、今その旅行者が目にしている観光名所について遠隔からでも説明や案内をするという使い道ができるのではないか。旅行者にとっては、わざわざガイドブックやスマートフォンを取り出して調べる手間をかけずに、知りたいことを会話によって訊いたり説明されたりできれば、より理解が深まったり興味が満たされたりするのではないでしょうか。

 

あるいは、こどもやお年寄りの見守り。昨今、こどもがひとりで行動している際に危険に晒される、あるいは事故や事件に巻き込まれるケースが多く報じられています。また、より高齢化社会が進み、ひとり暮らしのお年寄りが増えることで、ひとりで行動しなければならないケースや、頼れる人が近くにいないというケースも一層増えていくと考えられます。
こうした中で、こどもの保護者、あるいはお年寄りの子供が遠隔からでも見守ることができ、状況に応じてサポートすることができれば、いざという時の危険や困難を回避できるのではないか。さらには、当のこどもの保護者やお年寄りの子供にとどまらず、地域社にこうしたITサービスが根付き、お互いに助け合い支援し合うような環境ができれば、より生活がしやすい世の中になっていくのではないでしょうか。

この他にも「guide glass」には様々な使われ方や多くの可能性があるのではないかと私たちは考えています。世の中の役に立つ、よりよい世の中にしていくきっかけとなるようなサービスとするべく、今後「guide glass」のサービス化に向けて取り組んでいきたいと思います。

 

開発の経緯

今回の「guide glass」の開発は、弊社にとってウェアラブルデバイスを活用した初めての開発でした。そのため、開発のプロセスでは様々な課題や苦労に直面しました。
ご承知のとおり、今回のプロトタイプ開発のベースとしたグーグルグラスは開発途上だったことから、ハードウェア側の処理能力など未知な部分も多くあり、その調整で苦労した点も多々ありました。

そもそもの「guide glass」の設計・開発思想としては、既存の外部機能を積極的に活用して、開発効率とコスト効率を高めることに重点を置いていました。このことから、先にご紹介した各機能を実現するために利用できる外部APIを極力利用していくという方向で検討を進めました。

企画を始めた当初、グーグルグラスはgoogle+ハングアウトのビデオ通話機能に対応していたため、視野の共有と音声通話の部分はそのAPIを利用して構築する方向で考えておりました。しかしグーグルグラスのバージョンXE16からハングアウトのビデオ通話機能が対応外となってしまったために、新たに利用可能な外部のビデオ通話機能の調査・選定をしていくこととなりました。
しかし、グーグルグラスに適用可能なビデオ通話機能を中々見つけることができない中、視野の共有と音声通話の両方に対応した外部機能にこだわるのではなく、それぞれを別個の機能として検討することに方向転換することとしました。

 

■ 視野の共有機能

その方向転換で、まずハードルとなったのが視野情報を映像によるストリーミング配信で行うということでした。「guide glass」のコンセプトである「その人が今どういう状況にあるかを、視野情報の共有によって把握してガイドする」ということを実現するためには、眼鏡型デバイスのカメラが捉える視野情報がほぼリアルタイムで共有されることが不可欠でした。そのためには映像のストリーミング配信が最適であると考えていましたが、ストリーミング配信機能をグーグルグラスに実装することが端末の制約上、およびコストの制約上で大きなハードルとなってしまいました。

そこで考えたのが、眼鏡型デバイスによる視野の撮影を映像ではなく画像とし、画像の撮影と送信を極短期間で繰り返すという解決策でした。これであれば、映像に比べて端末にかかる負荷を低減させることができ、コスト面でも映像ストリーミングよりもはるかに優位性を確保することができます。また機能面でも極短期間で画像撮影と送受信を行うことでほぼリアルタイム性を確保でき、視野情報の共有による状況把握も映像ストリーミングと遜色ない形で実現することが可能となりました。

 

■ 音声通話

一方、音声通話についてですが、こちらは既存の外部機能を活用するという当初の基本方針のもと、複数のVoIPサービスの候補の中から最適と思われるサービスを検討し選定を進めました。
最終的に、安定したシステム運営および通話品質、PCブラウザおよびAndroidに対応したライブラリやSDK提供の有無、通話コスト等の条件からベストと思われるサービスを選定し、そのサービスを活用して開発を進めることとしました。

ご承知のとおり、グーグルグラスはAndroid OSを搭載していることから、「guide glass」への音声通話機能の実装だけでいえば、選定したVoIPサービスが提供するAndroid向けSDKを利用することにより比較的容易に行うことができました。しかし、やはり全くの新しいハードウェアで未知の部分が多いことから、安定した通話を実現し、また通話にかかわる周辺の細かい機能を実装することは簡単にはいかず、試行錯誤を重ねていくこととなりました。

採用したVoIPサービス側も、Android向けSDKは提供しているものの、グーグルグラスでの利用を想定し最適化された状況ではなかったため、VoIPサービス側に問い合わせをし、その回答を参考にアプリを調整する、ということを繰り返しながら、音声通話機能の完成度を高めていきました。

 

■ 未知の端末での開発

そして、やはりもっとも苦労した部分が、グーグルグラスという端末自体の制約でした。グーグルグラスで発生する事象として度々取り上げられ、またグーグルグラス開発者向けの公式コミュニティ(現在は閉鎖)でも多数の投稿があったのでご存じの方もいるかと思いますが、グーグルグラスはある程度の時間使用していると、あるいは端末の処理負荷が増大すると、基板や各種センサー等が格納された端末側面部分が次第に熱を発し、熱が一定の許容レベルを超えるとシステムを終了するという事象が発生します。
小さな筐体の中に多数の構成要素が格納されており、また冷却装置もその筐体に収まるサイズになるよう工夫されているということですが、そのために冷却能力が追い付かずに、許容値を超えてしまうことが度々あるといわれており、「guide glass」開発でもこの事象に何度も見舞われました。

この発熱問題への対応は、とにかく端末の負荷をなるべく抑えることの工夫と調整の繰り返しとなりました。先にもご紹介しましたが、視野の共有(画像の送信)と音声通話をそれぞれ独立した機能として実装したことが結果的に処理負荷の低減に貢献することとなりましたが、やはり画像の定期撮影・送信、位置情報・方位情報の送信、そして音声通話を同時に処理して通信をしているため、処理の負荷はどうしても高まってしまう傾向にあり、試行錯誤を重ねながら細かい調整を施してなるべく負荷を抑えるよう工夫しました。その甲斐もあって、当初に比べて格段に安定して動作させることができるようになりました。

残念ながら、今回完成した「guide glass」のプロトタイプでは、この発熱問題を完全に克服ないし回避するには至らず、依然として動作が不安定になるケースが稀に起きてしまう状況ではありますが、端末自体の制約・限界という側面も多少なりとも認められることから、次のバージョンでの対応課題として残すこととしました。この点はグーグルグラスという端末の今後の進化に期待したいところでもあります。

 

今後の課題と展望

ここにご紹介した以外にも様々な課題に直面しながらも、今回、一定の安定性をもって動作するプロトタイプを完成させることができました。現時点ではまだプロトタイプという位置付けではありますが、今後改良を加えながらサービス化を目指して参りたいと考えております。

「guide glass」をサービスとして提供できる段階に至るにはまだ課題が存在していると思いますが、特に眼鏡型ウェアラブルデバイスに関わる外部環境の課題が大きいと考えています。

ご承知のとおり、「guide glass」のプロトタイプ開発のベースとなったグーグルグラスは一般販売に至ることなく、ベータテスター向け販売の段階で今年の1月に販売中止となりました。一方、各社から新しい眼鏡型ウェアラブルデバイスが発表ないし発売されており、眼鏡型ウェアラブデバイスの今後の一般への普及と市場拡大を期待させるものの、一般の方々が日常で普通に使用するという状態に至るまではまだ時間を要すると思われます。
「guide glass」がサービスとして受け入れられるには、やはり眼鏡型デバイスが日常で普通に使われているという状態であることが望ましいと思いますので、こうした環境が早く整うことを期待すると同時に、私たちも今回の「guide glass」をはじめとして、眼鏡型ウェアラブルデバイスの意義ある使われ方を数多く世の中に提案していくことにより、より早く環境が整うことに貢献にしていければと考えております。

ここ最近、グーグル社が新しいグーグルグラスを開発しており近々その発表があるのではないか、とのニュースが流れており、次世代モデル登場への期待が高まっているそうです。真偽の程は定かではありませんが、弊社も、近い将来より進化したグーグルグラスが登場することを願ってやみません。
グーグルグラスはもちろんのこと、眼鏡型ウェアラブルデバイス全般がより進化を続け、それに応じて弊社の「guide glass」も改良を重ねながら進化させ、なるべく早く世の中にお届けできるよう、取り組みを継続して参ります。

「guide glass」に関するお問い合わせは特設サイトから行っていただくことができます。ご興味を持たれた方は是非お問い合わせください。お待ちしております。