Som det är, säger Cloudera VD Mike Olson, har Hadoop analysplattform några betydande begränsningar som involverar hastighet och komplexitet. Branschledare - inklusive de på hans eget företag - arbetar emellertid för att förändra det, säkra på att detta forskningsverktyg kommer att utvecklas på grundläggande sätt under de kommande åren.
Vid Strata-konferensen förra året bad Olson en publik att föreställa sig hur Hadoop, om den skapades idag, skulle utformas på ett annorlunda sätt, med att vissa specifika förändringar skulle kunna öppna nya portar för forskning inom områden som utbildning, energi och jordbruk. Med hänvisning till kosmolog och vetenskaplig författare Carl Sagan betonade Olson vikten av att bryta ner data på hög nivå för en större publik.
"Jag tror att vi är i stånd till kanten av stora upptäckter som betyder för företag och för samhället, " sade Olson.
Ett exempel, konstaterade han, är den vetenskapliga upptäckten som möjliggjordes av vetenskapliga yrkesverksamma vid Large Hadron Collider i Schweiz. Enligt Olson är det den dagliga utvärderingen av 37 terabyte data som har lett till viktiga framsteg som vattendraget Higgs-Boson-upptäckten, som avslöjade viktiga aspekter av materia och energi. Olson tillade att Hadoop hjälper till att hjälpa till i dessa grundläggande forskningsprojekt genom att fånga en enorm mängd data i ett enda arkiv, men att det är svårt att interagera med dessa data i realtid.
Olson tillkännagav också Impala-projektet, något som hans företag har arbetat med i två år, med två fjärdedels betatest i samordning med stora klienter. Impala-projektet, säger Olson, är en "100% open source" -teknologi med Apache-licensiering som fungerar med Hadoop som en "realtidsfrågemotor." Detta, säger Olson, tillåter vad han kallar "hastighet för tankefrågor", där användare kan ställa en fråga, få svar och formulera en ny fråga för att effektivt använda stora datakluster.
"Det ger dig ett nytt sätt att ta reda på dina uppgifter, " sade Olson och beskriver hur denna typ av framsteg kan bryta upp ytterligare möjligheter att lösa stora problem i USA och utomlands.